logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

RAG架构

RAG通过检索增强生成提升大模型准确性,核心为从向量数据库(如Chroma)中检索相关文档并融入生成过程。实验对比了L2、IP、Cosine三种距离度量方式,指出Chroma返回距离值越小越相似,且hnsw:space参数建库后不可更改。实际应用中,阈值设于0.7–0.8间以过滤低质量匹配。支持文本/向量/检索器多种查询方式,可优化效率。此外,结合OpenCLIP实现多模态检索,支持“以文搜图”与

文章图片
#人工智能#算法#python +1
AI模型开发

本文介绍了本地大模型调用与应用开发流程,涵盖使用Ollama部署本地模型、通过Streamlit构建交互式聊天界面,并结合LangChain框架实现多模型调用与流式输出。重点演示了环境配置、会话状态管理、端口通信原理及API密钥安全封装。同时对比了不同模型(如DeepSeek、Qwen)在LangChain中的调用方式,强调配置灵活性与兼容性,适用于本地化AI应用快速开发。

#人工智能#python
到底了