一下载并安装ollama

打开https://ollama.com/  ollama官网

击页面上的 "Download for macOS" 按钮，下载适用于 macOS 的安装包（通常是一个 .dmg文件）并安装ollama

安装后查看ollama版本：

二 选择模型：

  本人电脑配置：

由于电脑配置低，本人处理的文档基本都是中文，所以选择了阿里千问

下载命令如下：

ollama pull qwen2.5:0.5b
ollama run qwen2.5:0.5b

结果如下：

import os
from dotenv import load_dotenv
from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage, SystemMessage



# 2. 初始化模型（关键：配置 base_url）
llm = ChatOpenAI(
    model="qwen2.5:0.5b",  # 必须参数，也可用 "deepseek-reasoner"
    base_url="http://localhost:11434/v1",  # 指向DeepSeek
    api_key="not need",
    temperature=0.7 # 随机性：0-1，越高越随机
)

# 3. 构建对话消息
messages = [
    SystemMessage(content="你是一个专业文档身后助手。"),
    HumanMessage(content="请帮我审核一下合同的风险。")
]

# 4. 调用并获取响应
response = llm.invoke(messages)
print(response.content)

说明： max_tokens ：限制生成文本的最大长度，防止输出过长。
Token是什么？
基本单位: 大模型处理文本的最小单位是token（相当于自然语言中的词或字），输出时逐个token
依次生成。
收费依据：大语言模型(LLM)通常也是以token的数量作为其计量(或收费)的依据。
1个Token≈1-1.8个汉字，1个Token≈3-4个英文字母
Token与字符转化的可视化工具：
OpenAI提供：https://platform.openai.com/tokenizer
百度智能云提供：https://console.bce.baidu.com/support/#/tokenizer
max_tokens设置建议：
客服短回复：128-256。比如：生成一句客服回复（如“订单已发货，预计明天送达”）
常规对话、多轮对话：512-1024
长内容生成：1024-4096。比如：生成一篇产品说明书（包含功能、使用方法等结构）

执行结果：

/usr/local/bin/python3 /Users/fish_study/github/python/learn/langchain/demo_local.py
当然，我很乐意帮你审核合同的风险。不过，为了能够更准确地帮助你，我需要了解一些具体的信息：

1. **合同的详细内容**：包括主要条款、权利和义务、支付方式、付款条件等。
2. **涉及的方及其他相关方的情况**：比如供应商、客户、以及其他可能影响合同风险的所有相关方。
3. **违约情况下的后果**：如果合同发生违约，如何界定违约责任，并且如何解决或惩罚违约方。

请告诉我这些详细信息，我将根据你的描述来分析合同的风险。

Process finished with exit code 0