利用langchain调用大模型api实现简单对话
·
共分为四步，首先引入langchain_openai包里的ChatOpenAI，然后设置api_key，然后初始化LLM（这里需要api url），最后调用大模型输入问题打印结果即可。
1.首先引入langchain_openai包里的ChatOpenAI。终端直接下载即可
pip install langchain_openai
2.然后设置api_key
我用LM Studio调用api，可以随便写，最好起一个比较简单的防止解码错误。
3.初始化LLM（这里需要api url）
从LM Studio里获取api：首先下载好LM Studio软件后选择模型下载到本地（我选择的是qwen/qwen3-4b-thinking-2507）
然后选择要加载的模型
将status跳到running，右下角弹出API Usage的信息，复制这个url
将这个url填入openai_api_base里，注意后面要加"/v1"，因为对于大多数本地部署工具（如 LM Studio, vLLM, Ollama 等，端口 1234 通常是 LM Studio），API 地址必须以 /v1 结尾。
4.最后调用大模型输入问题打印结果
运行程序即可
注：LM Studio貌似不能开着梯子使用。模型运行情况可以在软件的日志中看到，如果运行后没结果看看日志中有没有消息，是不是模型没跑起来
更多推荐
1
0- 0
已为社区贡献2条内容
所有评论(0)