logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

你敢不敢让一个会幻觉的 LLM 直接退款?

做能动钱的 Agent,我觉得最该有的不是更强的模型,而是几条朴素的工程原则:能力被工具边界限定、高风险被人在环路熔断、然后自己写红队去攻击它、用数据证明防线有效。敢让它碰退款,但拿审批兜底——这样的 Agent 才敢往生产上放。架构图、人在环路(Human-in-the-Loop)的实现、权限校验链路、红队攻击用例以及完整验证报告都已经整理在项目仓库中。

#AIGC#github#python
到底了