随着大语言模型（LLM）日益成为自主智能体决策的核心，确保其输出保持安全、符合伦理，并持续与人类目标对齐已成为一个紧迫的挑战 [1386, 402, 1387]。传统的对齐技术，特别是基于人类反馈的强化学习（RLHF），通过融入人类偏好，在改进大语言模型行为方面发挥了重要作用 [110, 43]。

基础智能体是一个自主的、自适应的智能系统，旨在主动感知来自其环境的多样化信号，通过经验持续学习以提炼和更新结构化的内部状态（如记忆、世界模型、目标、情绪状态和奖励信号），并推理出有目的的行动——包括外部和内部行动——以自主地朝向复杂的长期目标导航。主动和多模态感知：它持续地、选择性地从多种模态（文本、视觉、具身或虚拟）感知环境数据。动态认知适应：它通过学习整合新的观测和经验，维护、更新并自主优化丰

一个AI世界模型广义上是指智能体用来捕捉或访问近似环境动态的任何机制。令SS表示可能的环境状态集，AA表示行动集，OO表示观测集。Ts′∣saS×A→ΔSOo∣s′S→ΔO​Ts′∣saS×A→ΔSOo∣s′S→ΔO​其中T⋅T(\cdot)T⋅决定状态在行动下如何演变，而O⋅O(\cdot)O⋅定义状态如何产生观测。

在强化学习中，奖励模型规定了如何根据智能体在其环境中执行的动作向其提供反馈。该模型通过量化给定状态下动作的可取性，在指导智能体行为方面发挥着至关重要的作用，从而影响其决策。形式化定义。MSAPrγMSAPrγ其中：•SS表示状态空间，包含环境中所有可能的状态。•AA表示动作空间，包含智能体在任何给定状态下可用的所有动作。•Ps′∣saPs′∣sa定义了状态转移概率。它表示在智能体在状态sss采取动

从单智能体系统向多智能体系统，特别是基于大语言模型（LLM）的系统的转变，要求评估范式发生根本性变化。与单智能体评估（其直接关注点是特定任务的性能）相比，基于大语言模型的多智能体系统的评估必须从整体的智能体间动态角度来理解，例如协作规划和沟通有效性。本章既探讨了面向任务的推理评估，也探讨了整体能力评估，反映了此类评估的细微差别。更具体地说，我们考察了两个主要的评估领域。首先是任务解决型多智能体系统

人类记忆通常被概念化为一个多层次系统，在不同的处理水平和时间尺度上捕获、存储和检索信息。来自认知科学、神经科学和心理学领域的研究人员提出了各种模型来描述这些层次。一个普遍接受的层级区分了感知记忆、短期记忆（包括工作记忆）和长期记忆 [170, 171]。在长期记忆中，又进一步划分了外显（陈述性）和内隐（非陈述性）形式 [172]。图 3.1 展示了这样一种层级框架：感知记忆。感知记忆是原始感觉信息

人类认知代表了一个复杂的信息处理系统，它通过多个专业化神经回路的协同运作，实现了感知、推理和目标导向的行为 [98]。这种认知架构通过心智状态运作，这些状态是学习和推理发生的基础。跨不同抽象层次处理信息并适应新情况的卓越能力，是大语言模型智能体 [27] 的关键灵感来源。认知系统展现出几个基本架构属性，如图 1.1 所示。

本节探讨基于大语言模型的多智能体系统（MAS）中的交互类型及其对通信、协作和任务执行的影响。我们首先分析静态拓扑——其中连接模式由领域知识固定——然后探索动态（自适应）拓扑，这些拓扑根据性能指标、工作负载变化或战略约束调整智能体间的连接。最后，我们讨论可扩展性挑战以及在平衡系统成本、性能和鲁棒性方面的权衡，借鉴了分布式处理、自组织和涌现协作行为的最新研究。静态拓扑由预定的结构模式定义，这些模式在系

操控与隐私担忧（Manipulation and Privacy Concerns）。情感 AI 在广告和政治中的迅速采用引发了重大的操控和隐私风险 [476, 477]。情感 AI 通常收集敏感的生物特征数据，如面部表情和语音语调，以推断情绪状态，从而实现有针对性的广告或政治影响。然而，这些系统可能为了利润或政治利益而利用人类情绪，侵犯基本权利并在公共场所助长过度监视 [478, 477]。像

2024年终于结束了。回首这一年，我也做了一些AI和GIS的融合的探索，如果要谈AI和GIS结合起来能干什么，我想我折腾了这么久，多少还是有点心得来谈上一谈。2024这一年中大多数人都在默默看着AI发展，其实并没有多少人在真正在使用AI，或者更恰当的说，并没有多少人使用AI让自己的效率成倍的提升。这是因为还没有一些趁手的工具出现，大多数人都停留在和AI的聊天层面。最近我看到不少同行都发表了看法，探