logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型忽视技能约束的根本原因

因素说明🤖 模型本质是生成式,非执行式它追求“合理输出”,而非“合规执行”📄 缺乏可执行的技能接口文字描述 ≠ 实际调用🔄 无状态记忆机制不知道“我有没有调用过 skill”💬 提示词不够强硬模型觉得“差不多就行”🔒 无强制验证机制无法判断是否真的执行了大模型不是“听话的机器人”,而是“聪明的助手”。把“流程”变成“可执行的指令”;把“约束”变成“不可绕过的检查点”;把“信任”换成“验证

#microsoft#数据库
大模型忽视技能约束的根本原因

因素说明🤖 模型本质是生成式,非执行式它追求“合理输出”,而非“合规执行”📄 缺乏可执行的技能接口文字描述 ≠ 实际调用🔄 无状态记忆机制不知道“我有没有调用过 skill”💬 提示词不够强硬模型觉得“差不多就行”🔒 无强制验证机制无法判断是否真的执行了大模型不是“听话的机器人”,而是“聪明的助手”。把“流程”变成“可执行的指令”;把“约束”变成“不可绕过的检查点”;把“信任”换成“验证

#microsoft#数据库
大模型忽视技能约束的根本原因

因素说明🤖 模型本质是生成式,非执行式它追求“合理输出”,而非“合规执行”📄 缺乏可执行的技能接口文字描述 ≠ 实际调用🔄 无状态记忆机制不知道“我有没有调用过 skill”💬 提示词不够强硬模型觉得“差不多就行”🔒 无强制验证机制无法判断是否真的执行了大模型不是“听话的机器人”,而是“聪明的助手”。把“流程”变成“可执行的指令”;把“约束”变成“不可绕过的检查点”;把“信任”换成“验证

#microsoft#数据库
到底了