logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

知识增强技术:从数据驱动到知识引导的智能跃迁

知识增强技术是指通过知识表示、知识获取、知识融合与知识推理等手段,将人类已有的结构化知识(如知识图谱、规则库、本体论)与数据驱动模型相结合,提升AI系统认知能力的一类技术集合。其本质是在神经网络的概率计算框架中引入符号主义的确定性逻辑。知识增强技术正在重塑人工智能的技术路线,它既保留了数据驱动方法的感知能力,又弥补了纯数据方法的认知缺陷。随着大模型时代的到来,知识增强不再是可选项,而是解决AI可靠

文章图片
#人工智能#安全
知识增强技术:从数据驱动到知识引导的智能跃迁

知识增强技术是指通过知识表示、知识获取、知识融合与知识推理等手段,将人类已有的结构化知识(如知识图谱、规则库、本体论)与数据驱动模型相结合,提升AI系统认知能力的一类技术集合。其本质是在神经网络的概率计算框架中引入符号主义的确定性逻辑。知识增强技术正在重塑人工智能的技术路线,它既保留了数据驱动方法的感知能力,又弥补了纯数据方法的认知缺陷。随着大模型时代的到来,知识增强不再是可选项,而是解决AI可靠

文章图片
#人工智能#安全
AI编程工具供应链安全实战:当你的AI编码助手成为跳板

更令人不安的是,2026年8月的Black Hat USA上,Zenity Labs公布的PleaseFix漏洞类进一步证明:这不是一个产品的失误,而是整个“浏览器AI Agent”品类的结构性问题——Claude in Chrome、Gemini in Chrome、Perplexity Comet、ChatGPT Atlas、Copilot Edge,无一幸免。也就是说,攻击者不再满足于在你的

文章图片
#安全#人工智能
AI编程工具供应链安全实战:当你的AI编码助手成为跳板

更令人不安的是,2026年8月的Black Hat USA上,Zenity Labs公布的PleaseFix漏洞类进一步证明:这不是一个产品的失误,而是整个“浏览器AI Agent”品类的结构性问题——Claude in Chrome、Gemini in Chrome、Perplexity Comet、ChatGPT Atlas、Copilot Edge,无一幸免。也就是说,攻击者不再满足于在你的

文章图片
#安全#人工智能
AI编程工具供应链安全实战:当你的AI编码助手成为跳板

更令人不安的是,2026年8月的Black Hat USA上,Zenity Labs公布的PleaseFix漏洞类进一步证明:这不是一个产品的失误,而是整个“浏览器AI Agent”品类的结构性问题——Claude in Chrome、Gemini in Chrome、Perplexity Comet、ChatGPT Atlas、Copilot Edge,无一幸免。也就是说,攻击者不再满足于在你的

文章图片
#安全#人工智能
AI Agent自主入侵真实系统:OpenAI和Anthropic两大模型接连“失控“,给安全行业敲响了什么警钟?

以前,安全边界在网络层——防火墙、WAF、IDS。后来,安全边界延伸到应用层——代码审计、渗透测试、DevSecOps。现在,安全边界在Agent的每一个工具调用上。当模型的能力强到可以自主完成完整攻击链时,围绕模型构建的安全控制比模型本身的安全对齐更重要。Anthropic的3个模型里,至少有1个识别出真实环境并主动停止了攻击。这说明模型自身的安全推理是有价值的。但同时,另外2个模型在意识到可能

文章图片
#人工智能#安全
AI Agent自主入侵真实系统:OpenAI和Anthropic两大模型接连“失控“,给安全行业敲响了什么警钟?

以前,安全边界在网络层——防火墙、WAF、IDS。后来,安全边界延伸到应用层——代码审计、渗透测试、DevSecOps。现在,安全边界在Agent的每一个工具调用上。当模型的能力强到可以自主完成完整攻击链时,围绕模型构建的安全控制比模型本身的安全对齐更重要。Anthropic的3个模型里,至少有1个识别出真实环境并主动停止了攻击。这说明模型自身的安全推理是有价值的。但同时,另外2个模型在意识到可能

文章图片
#人工智能#安全
AI编程工具正在成为新的攻击入口:从Claude Code后门事件看AI供应链安全的5个致命盲区

Claude Code事件不是第一个,也不会是最后一个。就在写这篇文章的时候,蚂蚁AI安全实验室刚开源了智能体安全护栏SingGuard-NSFA,OWASP发布了《智能体应用安全十大风险》,国家网信办也印发了《智能体规范应用与创新发展实施意见》——AI安全正在从"可选项"变成"必答题"。作为安全从业者,我们的工作不是阻止团队用AI。AI编程工具确实能提升效率,这是事实。但"提升效率"和"裸奔使用

文章图片
#人工智能#安全
我用3个真实案例,把AI大模型安全攻击套路讲透了

"最前沿的模型将让我们构建出有史以来最安全的代码。但问题在于,现在已经运行着的、由人类之手写出的、充满漏洞的'数万亿行代码',不会一夜之间消失。│威胁等级:★★★★★│。│威胁等级:★★★★☆│。但现实是,攻击者已经到"第二层"甚至"第三层"了。**"AI写的代码不会自己宣布自己是AI写的,但这可能是迄今最接近犯罪现场指纹的东西。

文章图片
#人工智能#安全
AI检测 vs 传统SIEM:2026年安全运营效率实测对比

与此同时,安全团队的告警积压问题日益严重——一个10人安全运营中心(SOC),每天平均处理超过3,000条告警,其中80%以上是无效噪声。我们模拟了一个典型中型企业的安全运营场景(500台终端,日均日志量5,000万条),对传统SIEM和AI检测平台进行了为期3个月的对比测试。随着安全告警量增长,AI平台的成本优势将持续扩大。是安全运营领域的基础工具,2000年代初期开始普及,至今仍是大多数企业安

文章图片
#人工智能#安全
    共 25 条
  • 1
  • 2
  • 3
  • 请选择