指的是短期、非持久化记忆，仅在会话启动时注入一次，会话结束后销毁，主要用于让模型适配当前场景（如移动端简化回复格式），不影响长期记忆。，则是长期、可编辑的核心记忆，用于记录用户稳定属性（，如姓名、职业目标、过往经历、项目成果、学习偏好），每次对话都会强制注入。有时是纯语义检索（之前讨论的性能优化方案），有时是纯时间检索（上周的所有对话），有时是复杂组合（三个月内关于 Python 且提到 Fast

比起单纯使用RAGflow的技术框架，我们在Milvus基础上设计了更加灵活集中功能组件的方案,让商品在多种业务场景下检索的召回率大大提升，在商品检索的召回率提升至95%。如前面困境所说，用户的 Query 实际是多种多样的，有简单的 Query，也有指代不明的 Query。Milvus对检索精度极高的掌控力以及原生支持的混合检索的能力，以及极高的性能扩展性和社群活力，挖掘出了我们产品更大的潜力。

token 消耗通常是单智能体的 3 到 10 倍，而且每个智能体都是潜在的故障点，智能体间传递上下文的过程中信息会持续损耗，协调开销有时甚至比实际工作还多。合理的做法是分别创建 CRM 智能体、营销智能体和消息智能体，每个配备 8 到 10 个专属工具和定制化的系统提示词，再加一个协调智能体负责把请求路由到合适的专业智能体。这个场景的触发条件是工具总数超过 20 个且频繁选错，工具跨越多个无关领

Milvus 是一款高性能、高度可扩展的开源向量数据库，能够存储、索引和搜索由非结构化数据转化而来的高维 Embedding 向量。Milvus 适用于构建现代 AI 应用，如检索增强生成（RAG）、语义搜索、多模态搜索和推荐系统。从笔记本电脑到大规模分布式系统，Milvus 能够在各种环境中高效运行。您可以使用开源的 Milvus 或者全托管的 Milvus 服务（Zilliz Cloud）。M

本文中，我们将结合Milvus，讲一讲如何构建 RAG 多租户/多用户系统。

01.前言为应对公司在大规模文本、图像等非结构化数据处理上的业务增长需求，笔者着手调研当前流行的开源向量数据库。主要针对查询速度、并发度和召回率这几大核心维度进行深入分析，以确保选定的数据库方案能够在实际业务场景中高效应对大规模数据检索和高并发需求。通过全面对比不同数据库的表现，得出可靠的调研结论。笔者首先在墨天轮排行榜中查看了国产向量数据库的排行情况。前三名分别是 Milvus、TensorDB

我们演示了网页爬取的过程，创建了知识库，包括将文本转换成向量存储在 Zilliz Cloud 中。然后，我们演示了如何提示用户进行查询，将查询转化为向量，并查询向量数据库。在本项目中，我们使用了一个单独的 notebook 将数据导入到 Zilliz Cloud，而不是从 Towards Data Science 进行网页抓取。提取文章的每个段落，并使用我们的 HuggingFace 模型获得对应

但只有开源是不够的，大型开源项目的迭代维护是需要很高的人力投入，单靠个人开发者几乎无法支撑，业界知名的数据服务相关的开源项目，比如Spark、MongoDB、Kafka，背后都是有成熟的商业化公司在运营。在此基础上，VDB的商业化方案，则应该保持云中立，在保证弹性、低运维投入的基础上，能满足不同业务、不同地区产品，以及不同阶段企业的多样化需求。Top-K相似性检索是最常见的向量检索需求，但除此之外

在自动驾驶算法持续迭代的背景下，Zilliz 允许对已有数据的 embedding进行批量替换，配合alias机制可帮助业务在无感切换模型的同时保持数据查询的稳定性：Zilliz 支持同时写入由不同模型生成的向量，并可通过混合搜索（hybrid search）对多向量列进行检索，为模型对比和联合分析提供便利。同一时期，作为国内智驾投入最为激进的车企，小鹏正式宣布，面向智驾经验用户即刻推送无限XNG

具体而言，在 RAG 中，我们可以使用可靠可信的自定义数据文本，如产品文档，随后从向量数据库中检索相似结果。然后，将准确的文本答案作为“上下文”和“问题”一起插入到“Prompt”中，并将其输入到诸如 OpenAI 的 ChatGPT 之类的 LLM 中。我们搭建的聊天机器人是个低成本的问答机器人，因为在召回、评估和开发迭代的过程中不需要调用大语言模型 API。必须要强调的是，该问答机器人的成本很