logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【大模型】RAG&向量数据库

这张图最精髓的地方在于中间那个圆柱体——向量数据库。它左边连着用户的查询。它右边连着知识库的存储。它是连接“用户需求”和“私有知识”的桥梁,通过向量化(Embedder)让两者在数学空间中相遇,最后由 LLM 完成漂亮的各种语言输出。

#数据库#语言模型
【大模型】向量数据库:Chroma、Weaviate、Qdrant

本文分析了三种主流向量数据库的特点与适用场景。向量数据库专为高维向量数据设计,支持高效存储、索引和相似度检索。Chroma定位轻量级Python优先,适合原型开发和教学;Weaviate强调混合搜索功能,适用于高质量语义检索;Qdrant以性能优先,适合高并发生产环境。选型建议:快速原型选Chroma,复杂搜索选Weaviate,高性能需求选Qdrant。不同场景下各系统在搜索范式、并发能力和运维

#数据库#语言模型
云服务器ECS 2GB内存太小总是爆满崩溃解决办法

【摘要】在低内存服务器(1-2GB)使用VSCode打开.py文件时,Pylance插件的内存消耗会触发Linux的OOMKiller机制导致连接中断。通过free-h或top命令可验证内存不足问题。解决方案是创建2GB的Swap虚拟内存:依次执行dd创建交换文件、设置权限、格式化并启用Swap,最后配置开机自动挂载。该方法能有效解决内存不足导致的连接中断问题,使小内存服务器稳定运行VSCode。

#服务器#运维
【大模型开发】Langchain:为大模型应用提供通用接口,简化应用程序的开发流程

摘要:LangChain是一个开源框架,旨在简化基于大型语言模型(LLM)的应用程序开发。其核心组件包括模型交互接口、数据连接、处理链、记忆存储、代理工具和回调机制,支持Python和JavaScript。最新v0.3版本改进了架构设计,增强了可观察性和流式处理能力,提供700+技术集成。LangChain生态系统包含核心库、CLI工具、部署服务和开发者平台,支持从开发到部署的全流程。该框架特别适

#语言模型#python
【大模型开发】学习笔记一:RAG & LangChain 实战核心笔记

以为是把 API Key 嵌进去,或者是简单的插入操作。:Embedding 是将**人类语言(文字)计算机语言(向量/数字列表)**的过程。计算机看不懂“苹果”,但 Embedding 模型把它变成。计算机通过计算两个向量的**距离(余弦相似度)**来判断意思像不像。:入库(Indexing)和查询(Query)必须使用Embedding 模型,否则就像一个说英语一个说日语,完全鸡同鸭讲。

#人工智能#语言模型
【大模型应用】入门了解AI Agent

定义:不是简单直接让AI一步到位(直上直下),而是将大任务拆解。Agentic Workflow(智能体工作流):包含“思考-研究-输出-修改”的循环迭代(Circular iterative process)过程。最终形态:完全独立弄清楚步骤、挑选工具的 Truly autonomous AI agent(真正自主的智能体)。

#人工智能#大数据
【大模型应用】MCP (Model Context Protocol):AI界的USB接口

MCP是由Anthropic提出的AI应用连接标准协议,类似AI界的USB接口,旨在统一LLM与数据源/工具的交互方式。其核心架构包含Host(主程序)、Client(连接插件)和Server(数据接口)三个角色,通过Tools(执行函数)、Resources(只读数据)和PromptTemplates(结构化指令)三类资产提供服务。支持本地Stdio和远程HTTP流式传输两种通信方式,开发者可通

#人工智能
【机器学习】Transformer核心架构与工作原理深度解析

本文解析Transformer模型的核心机制:1)自注意力与多头机制通过多维度分解实现语义解耦,8个独立头分别捕捉指代、修饰等不同特征;2)编码器采用"注意力+残差+归一化+FFN"闭环结构,经N次堆叠输出全局语义向量;3)解码器采用自回归生成方式,通过掩码注意力避免信息泄露,并利用交叉注意力实现输入输出对齐;4)模型可裁剪为纯解码器架构(如GPT),广泛应用于翻译、问答等场景

#机器学习#人工智能#深度学习 +1
【大模型应用】AI领域新概念“Skill”的深度解析与核心工作原理

摘要: "Skill"是AI提示词管理的新机制,旨在解决传统提示词存在的Token浪费和AI理解干扰问题。其核心结构是一个包含SKILL.md文件的文件夹,通过元数据(Metadata)实现高效匹配。运行机制分为三步:发现(匹配需求)、激活(按需加载完整提示词)、执行(读取文件或运行脚本)。Skill支持文件引用、脚本执行及AI动态生成代码,显著提升灵活性和管理效率。本质是通过

#人工智能#语言模型
【大模型应用】大模型RAG系统回答评分机制RAG AS(Retrieval Augmented Generation Assessment)

摘要:RAGAS是针对RAG系统的评估框架,通过LLM-as-a-Judge方法将评估拆解为生成质量(Faithfulness和AnswerRelevance)和检索质量(ContextRelevance/Precision和ContextRecall)两大维度。其创新点包括:1)无需标准答案的评估设计;2)逆向工程计算回答相关性;3)支持冷启动阶段的测试集自动生成。落地时需注意API成本控制、评

#面试#职场和发展#语言模型 +1
    共 63 条
  • 1
  • 2
  • 3
  • 7
  • 请选择