AI智能体自生成代码高权限执行的智能安全确保机制
·
现在行业应用AI智能体开发为了完全性,通常发布的智能体不再赋予运行期自生成代码的权限,或者运行期自生成代码不再赋予高权限的立即执行权。
为了实现高自由度、高自扩展能力,同时保证运行期的安全性,行业需要新的专用大模型。这个专用大模型只负责审查各种编程语言的源代码安全性,也就是开发一个针对各种行业应用、工业软件、产业软件的源码安全审查大模型,通过工业行业软件开发中的各种带病源代码的危险性模式的训练,可以识别行业软件几乎所有的危险源代码模式。
把这个专用安全源代码审查大模型接入到可以自生成代码的智能体,给智能体生成任意代码的权限,给智能体执行任意代码的权限,前提按强制性规则和行业规范,必须经过专用行业源代码安全审查大模型的危险模式审查,通过后智能体才能执行自生成的代码。
更多推荐


所有评论(0)