大家好,我是校长。

自从 ChatGPT 发布以来,真的是热度依旧不减,几乎每隔几天都会有新的消息爆出,登上热搜。

尤其是,ChatGPT 发布后,竟然成了学生的作弊神器,有学生用 ChatGPT 来写作业,写作文,甚至还有用它写论文的。前几天,我还看到一个新闻,有公务员使用 ChatGPT 来写公文。

当然了,更牛的是,有学生使用 ChatGPT 来参与学校的课程考试,甚至过了医学考试,然后引发了老师们和社会的担忧。

这些事件直接的后果是,美国一些最大的学区已禁止在其网络和设备上使用 ChatGPT。

科技就是这个样子,拥有一体两面,正确的使用它可以提高效率,促进发展,错误的使用它,可能会造成社会危害。

那么如何检测内容是否是 AI ,是 ChatGPT 所写的呢?这就成为了刚需。

ChatGPT 带来的喧嚣还未归于平静,昨天,ChatGPT 背后的公司 OpenAI 又趁热打铁推出了一款检测工具,试图区分人工编写的文本和 AI 生成的文本。

这款工具名为 AI 文本检测器(AI Text Classifier),据《每日经济新闻》记者亲测了其检测效果发现,其能成功区别单独的人工或 AI 文本,但当人工和 AI 文本混淆时,检测效果并不乐观。不过,OpenAI 认为,当这个检测工具与其他方法结合使用时,可能有助于防止 AI 文本生成器被滥用。

不过,这个工具目前还是有一定局限性的,OpenAI 显然也意识到了这个工具的局限性,因为它在博客里强调,不要仅仅凭借这个检测器来确定内容的真实性,“在确定文档是否由 AI 生成时,检测结果可能会有所帮助,但不应成为唯一的证据。”

OpenAI 在这个检测器里,使用了来自多个来源的 AI 生成的文本样本和人工编写的样本来训练模型。

AI 生成的文本样本方面,他们使用了包括 OpenAI 在内的 5 个不同机构开发的 34 个模型生成的文本来进行训练。而人工编写的文本有三个来源,包括一个新的维基百科数据集、2019 年收集的 WebText 数据集,以及训练 InstructGPT 时收集的部分数据。

OpenAI 也对检测器在进行测试时的准确性进行了详细说明:

  • 大约 5% 的人工撰写的文本和 2% 的人工智能生成的文本,被判定为 “非常不可能由 AI 生成”;

  • 大约 15% 的人工编写文本和 10% 的人工智能生成的文本,被归为 “不太可能是 AI 生成”;

  • 大约 50% 的人工编写的文本和 34% 的人工智能生成的文本,被归为 “不清楚是不是 AI 生成”;

  • 大约 -21% 的人工编写的文本和 28% 的人工智能生成的文本被归为 “可能是 AI 生成”;

  • 大约 9% 的人工编写的文本和 26% 的人工智能生成的文本,被归为 “可能由 AI 生成”。

虽然,目前这个工具的准确度和确定性还不是很高,但是,也有网友说:OpenAI 自己创造了 ChatGPT ,现在又推出一个反 ChatGPT 的工具,是不是在玩猫捉老鼠的游戏呢?

是不是在玩猫捉老鼠的游戏我们不知道。

不过,OpenAI 可以用这种方式来持续保持热度,推出 ChatGPT 让自己登上了风口浪尖,市值涨了一波,现在再推出一个 ChatGPT 的检测工具,可能又会让自己保持一段时间的热度,或许,市值又能大涨一波。

而且,用魔法来打败魔法的背后,OpenAI 的目的可能是想用人工智能来训练人工智能的方式,让 ChatGPT 的进化更上一层楼。

毕竟,当自己掌握了如何检测是否为 AI 所创作的内容之后,就相当于找到了 ChatGPT 的漏洞,然后再进一步针对性的弥补,让 ChatGPT 进化更像人,岂不是非常完美?

一句话:用人工智能去训练人工智能,然后抹去人工智能的痕迹,最终让人工智能更像人,这可能是一种效率更高的进化方式。

点击下方公众号卡片,关注我

在公众号对话框,回复关键字 “1024”

免费领取副业赚钱实操教程

7f00fe35f08caef0f7b032a7481cbb2a.png

更多推荐