logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型应用场景

罗列大模型常用的应用场景

文章图片
#nlp
大模型对话技巧

与大模型对话技巧,让AI更懂你

文章图片
#人工智能
Pycharm配置Docker容器Python解释器并容器内调试程序

Pycharm专业版可以配置SSH Remote连接远端服务器并在远端服务器上调试程序(搜索SSH Interpreter会有很多教程)。但如果我们想在本地电脑上通过Pycharm运行Docker容器并在Pycharm中使用debug方式启动Flask服务脚本(如start_server.py),在使用Postman请求容器内服务接口的时候,可以通过在Pycharm打断点的方式查看各个环节的状态。

文章图片
#python#pycharm#docker
Langchain搭建LLM应用程序之二 LangGraph+FastAPI

结合FastAPI和Ollama大模型实现大模型聊天接口能力

文章图片
Langchain搭建LLM应用程序之十二 RAG-向量数据库实现合同信息抽取

​为实现非结构化数据的高效检索,关键在于将其转化为结构化的表示形式。通过对海量文档进行文本分块、向量化处理,并将其存储于专用数据库中,可将非结构化内容转换为数值化的向量表示。在进行检索时,查询内容经过相同的向量化处理,通过计算向量间的相似度,从数据库中找出与之最接近的k个向量。最终,所需的答案即蕴含于这k个向量所对应的文本块之中。当我们面临的内容不再是数据,而是知识,提出的问题也不再局限于某个字段

文章图片
Langchain搭建LLM应用程序之六 少样本提示词(FewShotPromptTemplate)

利用少量的样本(提示词中加入【示例】)引导模型对特定任务进行学习和执行。示例中通常需要包含问题(或任务描述)及相应的答案(解决方案)。什么时候需要少样本提示词?当想让模型复制一种难以明确描述的特定响应风格的时候。少样本提示可以改善模型的性能。

文章图片
Langchain搭建LLM应用程序之十二 RAG-向量数据库实现合同信息抽取

​为实现非结构化数据的高效检索,关键在于将其转化为结构化的表示形式。通过对海量文档进行文本分块、向量化处理,并将其存储于专用数据库中,可将非结构化内容转换为数值化的向量表示。在进行检索时,查询内容经过相同的向量化处理,通过计算向量间的相似度,从数据库中找出与之最接近的k个向量。最终,所需的答案即蕴含于这k个向量所对应的文本块之中。当我们面临的内容不再是数据,而是知识,提出的问题也不再局限于某个字段

文章图片
Langchain搭建LLM应用程序之十一 RAG-文本切割器选型

一致性原则:你的文本分割器应该与你的嵌入模型和LLM的tokenizer保持一致。OpenAI生态 -> 用tiktokenHugging Face / Sentence Transformers 生态 -> 用质量优先原则:如果一致性不是问题(例如,你只关心内容而不调用外部API),且对语义完整性要求高,选择。实验验证:没有绝对的“最佳”。在你的测试集上,用不同的分割器生成块,设置不同的 chu

文章图片
到底了