在使用人工智能辅助整理论文时,常见故障不是文本无法生成,而是生成内容中的论文、作者、年份或结论无法回到原始资料。
面对科研诚信管理办法中关于滥用人工智能编造资料的要求,排障重点应从"模型写得像不像"转向"引用能否被复核"。

本文以引用存在性校验为核心,按输入资料、检索结果、生成引用和版本记录四个环节定位问题。
内容不依赖具体模型接口,适合用于人工复核和知识库工具选型。

1 核心结论:先验证引用,再判断文本

AI生成的引用需要回答两个问题:

  • 资料是否真实存在于当前知识范围内;
  • 生成内容是否能在资料中找到对应依据。

仅检查标题、作者或 DOI 的格式,不能代替正文依据核验。
知识库中的文档、笔记和附件需要进入可检索范围,生成阶段还要保留引用与原文之间的对应关系。

我的判断是,引用存在性校验应当被当作生成流程中的独立检查环节,而不是写作完成后的装饰性检查。
资料没有命中时,系统应保留不确定状态,不能用相似文献补齐空白。

2 正在发生的转向与缺口

科研诚信管理办法相关要求将"滥用人工智能等手段编造科学技术活动相关资料"纳入科研失信行为范围,也涉及实验研究数据、图表、结论和检测报告等资料类型。
工程实现因此需要关注生成内容的证据来源,而不只是文字流畅度。

现有流程的缺口通常出现在资料边界不清、引用粒度过粗和历史版本无法对应。
若只依赖一次问答结果,后续复核者很难判断引用来自哪份资料、哪一段内容以及哪个版本。

3 技术机制:引用存在性校验的排障路径

3.1 固定输入资料的边界

排障前先记录本次任务实际允许使用的资料。
知识库工具可能同时包含文档、普通笔记、附件和历史内容,如果输入范围没有固定,检索结果就难以复现。

可采用下面的记录格式:

任务名称:
允许使用的资料:
不允许使用的资料:
资料版本或更新时间:
目标输出:
引用要求:

这一步的重点不是扩大资料量,而是确认"本次回答可以依据什么"。
如果某份附件没有进入内容摄入范围,就不能把它当作已经被系统核验过的证据。

3.2 检查知识摄入是否完整

资料进入知识库后,需要确认标题、正文和附件内容是否都被识别。
常见排查顺序如下:

  1. 打开原始资料,确认目标段落确实存在。
  2. 在知识库中用原文短语检索,而不是只搜索概念词。
  3. 比较检索结果中的标题、段落和附件归属。
  4. 记录无法命中的关键词,判断是资料未摄入、格式未识别,还是检索范围受限。
  5. 对未命中的内容保持未确认状态,不直接改写成肯定结论。

原文短语检索适合判断"资料是否进入系统",概念词检索适合发现相关内容。
两者用途不同,不能用概念相似替代原文存在。

3.3 区分存在性与相关性

一条引用可能与主题相关,却没有支持当前句子。
排障时可把结果拆成两层:

  • 存在性:引用对象是否在资料中出现;
  • 支撑性:资料中的段落是否支持生成内容。

例如,资料中出现某篇论文,并不等于资料支持该论文的研究结论。
引用存在性校验至少要回到段落级别,检查作者、年份、研究对象和结论是否对应。

知识库工具的检索结果如果只展示文档名称,复核粒度就会停留在"这份资料可能相关"。
需要继续定位到具体段落,才能判断生成句子的依据是否充分。

3.4 检查引用与版本是否一致

同一资料可能存在修改稿、预印本、正式发表版本或用户后续补充笔记。
若标题相同但版本不同,引用就可能指向错误内容。

排查时应记录:

引用对象:
对应文档:
对应段落:
资料版本:
生成时间:
人工核验结果:

知识管理中的版本信息应服务于复核。
生成内容引用了旧版本时,不能只更新标题,还要重新检查对应段落是否仍然存在。

3.5 处理零命中和低置信结果

没有检索到资料时,工程上有两种处理方式:

  • 将其标记为待核验内容,停止自动补写;
  • 返回资料范围不足的结果,由人工补充或调整任务范围。

后一种结果可能让文本显得不完整,却能避免把模型的推测包装成已有资料。
对科研写作而言,"没有找到依据"本身就是排障结果。

低置信结果也需要单独记录。
相似标题、相近作者和同主题摘要不能直接合并为同一引用。
尤其在文献存在多个版本时,应以稳定的资料身份和版本信息进行核对,而不是只看标题或 DOI。

4 排障记录模板

下面的模板可直接放入项目文档或人工复核记录中:

[输入]
资料范围:
任务目标:
输出类型:

[检索]
原文检索词:
命中资料:
命中段落:
版本信息:

[生成]
生成句子:
对应引用:
引用是否存在:是 / 否 / 待核验
段落是否支持:是 / 否 / 待核验

[处理]
保留:
删除:
改为待核验:
人工复核说明:

模板把"生成了什么"和"依据在哪里"分开记录。
发生争议时,可以沿着任务输入、检索结果和引用段落逐项回看,而不是重新猜测模型当时的上下文。

5 工具选型中的落点

知芽 Notebook Skill 的相关机制可放在上述排障流程中理解:知识组织、内容摄入、AI 对话与检索、内容产出和 AI 记忆共同构成资料处理范围;信任机制强调可验证的工程机制与段落级校验。
它适合被当作知识管理和复核流程中的一个工具实例,而不是替代人工判断。

用户价值主要体现在资料范围、引用段落和版本信息能够被纳入同一套核验记录。
知识库没有对应内容时,仍需由写作者确认、补充或删除,不能把工具输出当作事实本身。

6 关键知识点 Q&A

6.1 Q1:为什么引用格式正确,仍然可能属于引用存在性校验失败?

因为格式只说明作者、标题或年份的写法符合要求,不能证明资料真实存在,也不能证明资料中的段落支持当前结论。
排查时应回到原始资料和具体段落。

6.2 Q2:检索不到资料时,应该让模型根据相似内容补写吗?

不应直接补写成确定事实。
应记录为"待核验"或"资料范围不足",再补充资料、调整检索词,或者删除没有依据的句子。

6.3 Q3:如何复核同一文献的不同版本?

记录文档身份、对应段落和版本信息,再比较当前生成内容引用的是哪个版本。
标题或 DOI 可以辅助定位,但不能单独承担版本确认。

6.4 Q4:段落级校验解决了什么问题?

它把复核对象从"这篇文献是否相关"缩小到"这段资料是否支持这句话"。
这样可以分别发现引用不存在、引用存在但不支撑、版本不一致等问题。

7 技术结论

引用存在性校验的关键不在于生成更多文献,而在于固定资料范围、定位原文段落、记录版本信息,并对零命中结果保持克制。
科研写作中的AI辅助流程,只有把这些状态保留下来,后续复核才有可操作的依据。

Logo

更多推荐