在将它们部署到现实世界的安全关键应用程序（例如自动驾驶汽车）时，安全也是另一个主要问题。传统的强化学习仅旨在最大化从环境中获得的任务奖励，缺乏满足安全约束的保证。安全策略应明确考虑训练期间的安全约束，并防止 RL 代理造成破坏性成本或处于危险状态。例如，如果将 RL 算法部署在真实的机器人手臂上，安全约束将是避免撞到易碎物体和周围可能破坏贵重财产或造成伤害的人。同样，自动驾驶应用程序中的 RL 代

强化学习 (RL) 是一种流行的机器学习范例，其中智能代理与环境交互以实现长期目标。在深度学习复兴的推动下，深度强化学习 (DRL) 在广泛的复杂控制任务中取得了巨大成功。尽管取得了令人鼓舞的成果，但基于深度神经网络的骨干网被广泛认为是一个黑匣子，阻碍了从业者在高安全性和可靠性必不可少的现实场景中信任和使用训练有素的代理。为了缓解这个问题，已经提出了大量致力于通过构建内在可解释性或事后可解释性来阐

强化学习 (RL) 是一种流行的机器学习范例，其中智能代理与环境交互以实现长期目标。在深度学习复兴的推动下，深度强化学习 (DRL) 在广泛的复杂控制任务中取得了巨大成功。尽管取得了令人鼓舞的成果，但基于深度神经网络的骨干网被广泛认为是一个黑匣子，阻碍了从业者在高安全性和可靠性必不可少的现实场景中信任和使用训练有素的代理。为了缓解这个问题，已经提出了大量致力于通过构建内在可解释性或事后可解释性来阐

在将它们部署到现实世界的安全关键应用程序（例如自动驾驶汽车）时，安全也是另一个主要问题。传统的强化学习仅旨在最大化从环境中获得的任务奖励，缺乏满足安全约束的保证。安全策略应明确考虑训练期间的安全约束，并防止 RL 代理造成破坏性成本或处于危险状态。例如，如果将 RL 算法部署在真实的机器人手臂上，安全约束将是避免撞到易碎物体和周围可能破坏贵重财产或造成伤害的人。同样，自动驾驶应用程序中的 RL 代