企业大模型RAG知识库从0到1搭建指南:腾讯云ADP+JOTO实战
很多企业想做RAG知识库,一上来就问"用什么向量数据库"、“切片大小设多少”。但真正落地的时候才发现,技术选型只占30%,剩下70%的工作量在知识治理、权限设计和运营维护上。这篇文章基于腾讯云ADP的RAG知识引擎能力,结合JOTO在多家企业的落地经验,把从0到1搭建知识库的完整路径拆开讲清楚。
一、先想清楚:你的知识库到底要解决什么问题
知识库不是文档仓库,是回答问题的系统。 很多企业犯的第一个错,是把所有PDF都上传进去,然后指望它什么都能答。结果一测试,问制度它答得还行,问业务流程它就开始胡编。原因很简单:不同类型的知识,需要的处理方式不一样。
搭建之前先把知识分成三类:
| 知识类型 | 典型内容 | 特点 | RAG策略 |
|---|---|---|---|
| 制度规范类 | 员工手册、财务制度、合规文件 | 条文明确、更新频繁、需要精确引用 | 按章节切片,答案必须附原文出处 |
| 业务操作类 | SOP、工单处理流程、产品手册 | 步骤性强、跨文档关联多 | 按流程节点组织,支持多文档交叉检索 |
| FAQ问答类 | 客户常见问题、内部常见咨询 | 一问一答结构 | 直接存问答对,检索效率最高 |
三类知识混在一起,是很多知识库"用不起来"的根本原因。先分类,再分别建库,后面维护起来才清晰。
二、第一步:知识盘点和清洗
这是最枯燥但最重要的一步,决定了知识库的上限。 技术再好,文档本身乱七八糟,RAG也救不回来。
具体做三件事:
第一,收集现有知识。 把企业里所有跟问答相关的文档都找出来:共享盘里的制度文档、OA里的流程说明、客服的历史工单、产品手册、培训材料。很多企业这一步就发现:知识散落在十几个地方,格式不统一,版本对不上。
第二,清理过期和重复内容。 三年前的报销制度、已经下线产品的手册、同一个制度存了五个版本的——全部清理掉。知识库最怕的就是"答案对不上",员工问报销标准,系统给出三个不同版本,信任直接崩。
第三,统一文档格式。 PDF、Word、PPT、Excel混着没关系,但每份文档内部结构要清晰:有标题层级、有目录、没有扫描件糊成一团的图片。腾讯云ADP的RAG引擎支持PDF、Word、PPT、Excel、图片、扫描件等10多种格式批量上传,但文档本身质量太差的,解析效果会打折扣。
三、第二步:切片策略不是越小越好
文档准备好之后,要切成片段才能做向量化索引。切片看起来是个技术活,其实本质是"怎么让系统检索到最相关的那段话"。
常见的切片方式有三种,各有适用场景:
| 切片方式 | 怎么做 | 适合什么 | 不适合什么 |
|---|---|---|---|
| 按固定长度切 | 每500字切一片,重叠50字 | FAQ、短文档 | 长文档,容易把一个完整章节切断 |
| 按标题层级切 | 以文档的一、二、三级标题为边界切 | 制度文档、SOP | 没有清晰标题结构的文档 |
| 按语义切 | 用模型判断一段话在哪里结束最合理 | 长文章、技术文档 | 成本高,速度慢 |
实操建议:制度类文档按标题层级切,FAQ类直接切问答对,产品手册按章节切。 不要用一个参数套所有文档。腾讯云ADP的RAG引擎支持自定义切片策略,不同知识库可以配不同的切片规则。
四、第三步:权限设计是企业知识库的生死线
这是企业知识库和个人知识库最大的区别。 个人知识库怎么弄都行,企业知识库如果权限没做好,就是安全事故。
举个例子:HR部门上传了薪酬制度,销售部门的员工问"我们部门经理的工资大概多少",如果RAG检索的时候把薪酬制度检索出来,就泄露了敏感信息。
腾讯云ADP的做法是知识库分级授权:不同部门的知识库存放在不同的权限域里,RAG检索的时候自动过滤掉当前用户无权查看的内容。员工A能检索到什么,取决于他的身份和权限,而不是所有文档都能被搜到。
落地时要做的事:
- 按部门和敏感程度给知识库分级(公开、部门内、机密)
- 给每一级配置谁能看、谁能上传、谁能管理
- 员工提问时,系统自动按身份过滤检索范围
- 所有问答记录留痕,谁问了什么、系统答了什么,都能审计
五、第四步:测试和调优
知识库搭好之后,不要直接全员上线。先拿真实问题测一轮。
测试方法很简单: 整理50-100个企业里真实高频问题(从历史工单、客服记录、HR咨询里收集),让知识库回答,然后人工判断答案对不对、有没有引用到正确的文档。
重点关注三类问题:
- 答非所问:系统检索错了文档,张冠李戴
- 答案不完整:只检索到了一部分,漏掉了关键信息
- 没有出处:回答没有标注来自哪份文档,员工无法核对
根据测试结果调整切片策略、补充缺失文档、优化检索参数。这个调优过程一般要2-3轮,才能达到上线可用的水平。
六、第五步:上线后的持续运营
知识库不是上线就完事了,是需要持续运营的。 制度更新了要更新文档,新产品上线了要加手册,新出现的高频问题要补充FAQ。
建议设一个知识库管理员:每个部门指定一个人负责本部门知识的更新维护。制度改了一周内必须更新到知识库,旧版本自动失效。系统里每条答案标注文档生效日期,确保员工看到的是最新口径。
| 运营动作 | 频率 | 谁来做 |
|---|---|---|
| 新增/更新文档 | 随业务变化随时 | 各部门知识管理员 |
| 高频问题补充FAQ | 每周 | 知识库运营负责人 |
| 低置信问题人工复核 | 每天 | 各业务部门 |
| 知识库使用效果复盘 | 每月 | IT+业务部门 |
七、JOTO落地RAG知识库的典型路径
基于腾讯云ADP,JOTO为企业搭建知识库一般分五个阶段:
| 阶段 | 周期 | 核心动作 |
|---|---|---|
| 场景诊断 | 第1-2周 | 梳理Top高频问题、盘点现有知识文档 |
| 方案设计 | 第2-3周 | 知识库分类、权限体系设计、切片策略制定 |
| 原型搭建 | 第3-5周 | 核心知识库上线、POC测试、准确率调优 |
| 系统集成 | 第5-8周 | 对接OA/企微/HR系统、全员推广 |
| 持续运营 | 长期 | 知识更新、效果复盘、场景扩展 |
某大型能源央国企的制度知识问答平台,基于腾讯云ADP搭建后,覆盖了审计、安保、人力、财务四大领域的制度文档,员工自然语言提问、答案附原文出处。国投证券用ADP的法务文件RAG能力,审核效率提升了50%。这些案例的共同点是:技术平台只是基础,真正花精力的是前面说的知识清洗、权限设计和持续运营。
JOTO 作为腾讯云 ADP CSP 授权服务商,对 ADP 的四层架构和 AgentOps 体系有深入理解和丰富的落地实施经验,可帮助企业完成从知识盘点、知识库搭建、权限设计到持续运营的全流程服务。如果你的企业正在评估或部署RAG知识库,JOTO可提供架构咨询和实施支持。
了解更多JOTO腾讯云ADP解决方案:https://joto.ai/solutions/tencent-adp
更多推荐


所有评论(0)