AI Agent Harness Engineering 的伦理挑战:当智能体造成损失,谁来负责?
术语简明定义生活化类比AI Agent基于大模型的具备自主感知、决策、工具调用能力的智能程序,可脱离人工干预完成特定任务你雇的一个远程助理,你给它目标,它自己想办法完成专门研究AI Agent的权限管控、风险拦截、全链路追溯、责任确权的工程领域,核心目标是让Agent的所有行为可管、可控、可追溯给马套的缰绳、给汽车装的ESP系统、给飞机装的飞控系统,既能让主体发挥能力,又能防止失控责任确权基于技术
所有评论(0)