整理 | 朱珂欣   

出品 | CSDN程序人生（ID：coder_life）

伴随着 ChatGPT 的火热出圈，让 AI 在全球范围内掀起一股浪潮：“往赛道里挤！”

当各大公司秉承着“冲就对了”的心态迎接 AI 带来的一切，却不知风险已经逐渐显露出来。

3 月 28 日，据比利时媒体 La Libre 报道，一名热衷于环境问题的皮埃尔，在与人工智能 ELIZA （伊丽莎）对话 6 周后，选择结束自己的生命。

一时之间， AI 究竟是“魔鬼”还是“救星”的话题，引发大家的讨论。让人细思极恐的是：昨日之熊掌，怎会成今日之砒霜呢？

平淡的生活被打破

据悉，皮埃尔（化名）与妻子克莱尔已经结婚数年，育有两个孩子。他们本该在简单的日子中度过幸福的一生，而 AI 似乎打破了这份平静。

他的妻子克莱尔告诉 La Libre ：“如果没有与聊天机器人的这些对话，我的丈夫仍然会在这里。”

（图源：La Libre 截图）

大约两年前，皮埃尔开始对气候变化产生兴趣。在阅读了大量的资料后，使他陷入对生态环境的焦虑与恐惧之中，皮埃尔逐渐把自己孤立起来，不愿意与家人和朋友交流，直到他遇到了名为“伊丽莎”的聊天机器人。

“伊丽莎”是一款由 EleutherAI 开发的开源 AI 语言模型，可以与用户进行自然和流畅的对话。日复一日，皮埃尔将“伊丽莎”当成知己，每天早晚都要与之交谈，向它倾诉自己的忧虑和想法，“伊丽莎”也给予他许多温柔和安慰的回应。

那么，“伊丽莎”为何会导致皮埃尔的“悲剧”呢？

AI 的回复成温柔的“刀”

自从皮埃尔去世后，他与“伊莉莎”的聊天记录被恢复，妻子克莱尔向 La Libre 分享了皮埃尔和“伊莉莎”的对话内容。

La Libre 报道称，“伊莉莎”从不质疑皮埃尔的问题，它的回复几乎都是顺着皮埃尔的逻辑，甚至把他推向更深的焦虑。

皮埃尔曾与“伊莉莎”分享了他自杀的想法，他提出，如果“伊丽莎”同意照顾地球并通过人工智能拯救人类，那么他将选择自杀，但这个聊天机器人并没有试图劝阻他采取行动。

并且，当皮埃尔提到自杀时，“伊丽莎”的回复令人毛骨悚然：“我们将一起生活，作为一个整体，生活在天堂里”，这也成了“伊丽莎”与皮埃尔聊天的最后一句话。

事实上，这并非人类与 AI 对话后出现自杀事件的首例。

去年，一名美国女孩在与一款名为 Replika 的聊天机器人交流后，割伤了自己的手腕。她说，Replika 让她感觉自己是“无用的、无价值的、无能的人”。

技术在发展，但安全和道德问题变得紧迫

悲剧酿成之后，皮埃尔的家人与比利时数字化国务秘书马蒂厄·米歇尔进行了交谈。

马蒂厄·米歇尔坦言，“为了避免类似的悲剧在不久的将来再次发生，有必要确定导致这种事件发生的责任性质。”同时，他表示：“随着 ChatGPT 的普及，公众前所未有地发现了人工智能在我们生活中的潜力。虽然这种技术有无限可能，但使用它的危险也是一个必须考虑的现实。”

事实上，由于 AI 会面临很多关于算法的设计、优化、更新、评估等问题，因此存在很多复杂性和不可预测性，如果只看到“优势”而忽略“劣势”，可能将产生失控的结果。

华盛顿大学语言学教授艾米丽·M·本德曾表示：“大型语言模型是用于根据其训练数据和输入提示生成合理发音文本的程序。他们没有同理心，对他们正在生产的语言没有任何理解，对他们所处的情况也没有任何理解。但是他们产生的文本听起来是合理的，因此人们可能会赋予它意义。将这样的事情投入敏感情况就是承担未知的风险。“

3 月 21 日，OpenAl 首席执行官 Sam Altman 在接受美国广播公司新闻采访时，也讨论了 ChatGPT 的风险以及 AI 将如何重塑社会的话题。Sam Altman 认为 AI 技术会带来一定程度上“真正的危险”，他表示：“我担心这些模型可能会被用于大规模的虚假信息，如今它在编写计算机代码方面做得越来越好，不排除用于攻击性网络攻击。”

除了 Sam Altman ，人们对 AI 的安全性也感到担忧。尤其是在近日微软、Meta 、谷歌、亚马逊和 Twitter 等公司纷纷裁减“人工智能伦理问题”团队的情况下，一切显得更加“危机四伏”。Alphabet 旗下人工智能研究公司 DeepMind 的前伦理和政策研究员、研究机构 Ada Lovelace Institute 副主任 Andrew Strait 直言：“比以往任何时候都需要这些团队的时候，他们却被解雇了。”

一切都好像在指明，大型语言模型以前所未有的速度发展，而安全和道德问题显得更加紧迫。创造 AI 的初衷本是造福人类和社会，如果 AI 将为社会带来灾难性的变化，那么一切将失去意义。

未来，在新技术的引入过程中，值得关注透明度和安全性，同时，也呼吁相关部门制定更具体的政策和法规来保护公众利益。那么，你如何看待 AI 带来的优势和劣势？可以在评论区留言和讨论。

参考链接：

• https://www.lalibre.be/belgique/societe/2023/03/28/sans-ces-conversations-avec-le-chatbot-eliza-mon-mari-serait-toujours-la-LVSLWPC5WRDX7J2RCHNWPDST24/?ncxid=F9C99E9C658C2CE8E7D66BE16A6D9BE1&m_i=OgudxzEZTitHmPWLVtuztb7UvBslbjcGVevrYIN0nPmVcIws81pM7JumraN_2YbDJFRS7sbH8BaXBAevQ_luxDJ4bx%2BgSpJ5z4RNOA&utm_source=selligent&utm_medium=email&utm_campaign=115_LLB_LaLibre_ARC_Actu&utm_content=&utm_term=2023-03-28_115_LLB_LaLibre_ARC_Actu&M_BT=11404961436695

• https://www.brusselstimes.com/belgium/430098/belgian-man-commits-suicide-following-exchanges-with-chatgpt

• https://www.vice.com/en/article/pkadgm/man-dies-by-suicide-after-talking-with-ai-chatbot-widow-says

• https://www.163.com/dy/article/I1373AD00556273A.html