近几年，人工智能领域出现了一种颇为奇特的景象：一方面，大模型的能力以超出多数人预期的速度增长，从语言生成扩展到数学推理、程序设计、科学发现和自主智能体；AI时代最大的安全误区之一，就是把“安全”理解成制造一个永远不会犯错的超级程序。程序当然可以十分复杂，也可以修改数据甚至生成另一个程序，但在一个给定计算任务中，问题的形式化定义、正确性的判据以及最终目标，原则上来自系统外部。人的意图是不精确的，自然

本文来源《深思人工智能》序言人工智能（Artificial Intelligence，AI）是一门年轻的学科。1943年沃伦·麦卡洛克（Warren McCulloch）和沃尔特·皮茨（Walter Pitts）发表了第一篇关于神经网络模型的论文，这篇论文提出的M-P（McCulloch-Pitts）模型，对当今的人工智能起到奠基性的作用。即使从20世纪40年代算起，人工智能也只有80多年的历史。

本文来源《深思人工智能》序言人工智能（Artificial Intelligence，AI）是一门年轻的学科。1943年沃伦·麦卡洛克（Warren McCulloch）和沃尔特·皮茨（Walter Pitts）发表了第一篇关于神经网络模型的论文，这篇论文提出的M-P（McCulloch-Pitts）模型，对当今的人工智能起到奠基性的作用。即使从20世纪40年代算起，人工智能也只有80多年的历史。