大模型学习day1
20260413
了解大模型调用API
APIkey的环境变量配置,避免泄露
免费额度用完之后,可以考虑Olllama,需要本机硬件配置性能好,不然卡顿
新版的运行olllama 需要配置apikey=“ollama”
差点因为环境安装不成功而放弃,安装包需要在所选环境中去安装,我一开始一直在本地安装,运行的时候总是找不到 导入不成功

各种包依赖下载
transformer的理解
aiagent的学习包 bcefghj 的github
langchain官网的最新引用
大模型调用的代码练习,自己手敲一遍,不看代码,发现,不动手就是没记住,各种格式问题
时代会淘汰不与时俱进的人!!
提示工程
如果自己觉得提示词不完善,可以把问题描述清楚一i点,让AI给你写提示词,然后再让AI用该提示词进行创作
提示词,步骤化,参考的语料用括号括起来,说得直白一点,先喂样例

提示词优化


用代码实现,调用api进行询问,之前习惯与UI交互,然后也习惯于将数据写死 ,比如messages这部分。但是few-shot的例子是动态的,所以利用messages构造历史信息的时候,就不能写死,需要使用for循环进行装填
for key,value in example.items():
messages.append({'role':'user','content':value})
messages.append({'role':'assistant','content':key})


json字符串是双引号
0414
langchain 部署下载
RAG


langchain初尝试
调包=实例化-对话
from langchain_community.llms import Tongyi
model= Tongyi(model="")
model,invoke(input="")
modek.stream(input="")
聊天模型角色 systemMessage\HumanMessage\AIMessage

模板类中的format,invoke


注意模型的输入类型 模型的输出不能直接作为模型的输入,类型不符合模型的输入格式,需要进行格式调整

StrOutputParse()是将AImessage转换为STR
jsonOutputParse 是将AImessage 转换为 json字典
0416
记忆
更多推荐
所有评论(0)