
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
这张图最精髓的地方在于中间那个圆柱体——向量数据库。它左边连着用户的查询。它右边连着知识库的存储。它是连接“用户需求”和“私有知识”的桥梁,通过向量化(Embedder)让两者在数学空间中相遇,最后由 LLM 完成漂亮的各种语言输出。
本文分析了三种主流向量数据库的特点与适用场景。向量数据库专为高维向量数据设计,支持高效存储、索引和相似度检索。Chroma定位轻量级Python优先,适合原型开发和教学;Weaviate强调混合搜索功能,适用于高质量语义检索;Qdrant以性能优先,适合高并发生产环境。选型建议:快速原型选Chroma,复杂搜索选Weaviate,高性能需求选Qdrant。不同场景下各系统在搜索范式、并发能力和运维
【摘要】在低内存服务器(1-2GB)使用VSCode打开.py文件时,Pylance插件的内存消耗会触发Linux的OOMKiller机制导致连接中断。通过free-h或top命令可验证内存不足问题。解决方案是创建2GB的Swap虚拟内存:依次执行dd创建交换文件、设置权限、格式化并启用Swap,最后配置开机自动挂载。该方法能有效解决内存不足导致的连接中断问题,使小内存服务器稳定运行VSCode。
摘要:LangChain是一个开源框架,旨在简化基于大型语言模型(LLM)的应用程序开发。其核心组件包括模型交互接口、数据连接、处理链、记忆存储、代理工具和回调机制,支持Python和JavaScript。最新v0.3版本改进了架构设计,增强了可观察性和流式处理能力,提供700+技术集成。LangChain生态系统包含核心库、CLI工具、部署服务和开发者平台,支持从开发到部署的全流程。该框架特别适
以为是把 API Key 嵌进去,或者是简单的插入操作。:Embedding 是将**人类语言(文字)计算机语言(向量/数字列表)**的过程。计算机看不懂“苹果”,但 Embedding 模型把它变成。计算机通过计算两个向量的**距离(余弦相似度)**来判断意思像不像。:入库(Indexing)和查询(Query)必须使用Embedding 模型,否则就像一个说英语一个说日语,完全鸡同鸭讲。
定义:不是简单直接让AI一步到位(直上直下),而是将大任务拆解。Agentic Workflow(智能体工作流):包含“思考-研究-输出-修改”的循环迭代(Circular iterative process)过程。最终形态:完全独立弄清楚步骤、挑选工具的 Truly autonomous AI agent(真正自主的智能体)。
MCP是由Anthropic提出的AI应用连接标准协议,类似AI界的USB接口,旨在统一LLM与数据源/工具的交互方式。其核心架构包含Host(主程序)、Client(连接插件)和Server(数据接口)三个角色,通过Tools(执行函数)、Resources(只读数据)和PromptTemplates(结构化指令)三类资产提供服务。支持本地Stdio和远程HTTP流式传输两种通信方式,开发者可通
本文解析Transformer模型的核心机制:1)自注意力与多头机制通过多维度分解实现语义解耦,8个独立头分别捕捉指代、修饰等不同特征;2)编码器采用"注意力+残差+归一化+FFN"闭环结构,经N次堆叠输出全局语义向量;3)解码器采用自回归生成方式,通过掩码注意力避免信息泄露,并利用交叉注意力实现输入输出对齐;4)模型可裁剪为纯解码器架构(如GPT),广泛应用于翻译、问答等场景
摘要: "Skill"是AI提示词管理的新机制,旨在解决传统提示词存在的Token浪费和AI理解干扰问题。其核心结构是一个包含SKILL.md文件的文件夹,通过元数据(Metadata)实现高效匹配。运行机制分为三步:发现(匹配需求)、激活(按需加载完整提示词)、执行(读取文件或运行脚本)。Skill支持文件引用、脚本执行及AI动态生成代码,显著提升灵活性和管理效率。本质是通过
摘要:RAGAS是针对RAG系统的评估框架,通过LLM-as-a-Judge方法将评估拆解为生成质量(Faithfulness和AnswerRelevance)和检索质量(ContextRelevance/Precision和ContextRecall)两大维度。其创新点包括:1)无需标准答案的评估设计;2)逆向工程计算回答相关性;3)支持冷启动阶段的测试集自动生成。落地时需注意API成本控制、评







