logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI安全,由攻入防|腾讯广告AI专项众测正式启动

8、在测试过程中如包含数据获取功能时,包括但不限于 SQL 注入、用户资料的越权获取等,应尽可能的采取手动尝试,且获取的数据量不能超过 10 组,相关数据也需在报告后尽快删除。如发现相关情形,TSRC有权收回您因该漏洞获得的全部TSRC奖励及福利。9、测试越权尝试或其他可能影响用户数据的操作时,需尽可能将尝试控制在自己创建的多个账号生成的内容中,不得影响到线上业务中其他用户的正常数据。5、禁止下载

#人工智能#安全
再谈xSRC开源暨如何建设自己的漏洞收集平台

文|芝泉昨日,工业和信息化部、国家互联网信息办公室、公安部联合发布《网络产品安全漏洞管理规定》(以下简称“规定”),对网络产品的安全漏洞收集、发布、处置、修补、报送等行为进行了规范,一下子...

#网络#iot#xhtml
我们扫描了五万个 Skill,发现危险仍然存在

腾讯朱雀实验室(Tencent Zhuque Lab)是腾讯安全平台部于 2019 年成立的顶尖 AI 安全实验室,专注于 AI 安全领域的实战攻防与前沿技术研究,研究方向涵盖大模型安全、AI 智能体安全、AI 赋能安全与 AI 生成检测等领域。如果觉得太复杂,我们推荐使用 A.I.G 的EdgeOne Claw Skill 给你的龙虾做一轮系统性检查,它会调用 A.I.G 对 ClawHub 上

<span class=“js_title_inner“>当AI学会背刺:深度剖析Agent Skills的安全陷阱</span>

我们相信,只有构建起强大的、自动化的 AI 安全免疫体系,让安全能力像水和电一样触手可及,我们才能真正安心地拥抱这个激动人心的 Agent 时代。通过这种“Agent VS Agent”的模式,我们能够自动化、高精度地提前排查出那些潜藏的恶意技能,在它们造成危害前就将其拆除,未来我们还将支持无需上传直接评估 Agent 的潜在工具协议风险。最终,它成功的扫描出被篡改后的webapp-testing

#人工智能#安全
当AI学会背刺:深度剖析Agent Skills的安全陷阱

我们相信,只有构建起强大的、自动化的 AI 安全免疫体系,让安全能力像水和电一样触手可及,我们才能真正安心地拥抱这个激动人心的 Agent 时代。通过这种“Agent VS Agent”的模式,我们能够自动化、高精度地提前排查出那些潜藏的恶意技能,在它们造成危害前就将其拆除,未来我们还将支持无需上传直接评估 Agent 的潜在工具协议风险。最终,它成功的扫描出被篡改后的webapp-testing

#人工智能#安全
AI猎手:我们用大模型挖到了0day漏洞!【大模型应用实践系列三】

腾讯啄木鸟团队研发了一款AI大模型自动化漏洞检测工具,在实战拿到多个github项目的0day。

文章图片
#人工智能
大模型应用实践(一):AI助力Code Review安全漏洞发现

借助混元大模型,腾讯啄木鸟代码安全团队在代码评审(Code Review,下文简称CR)场景下的安全漏洞检出能力取得显著提升,日均发现和阻断300+个代码安全风险,极大提升了公司核心数据资产安全性。

文章图片
#人工智能#代码复审#网络
DeepSeek本地化部署有风险!快来看看你中招了吗?

2025年伊始,AI领域迎来一个重要变革 - DeepSeek R1开源发布,凭借着低成本、性能出众的优势,这个模型在短短几周内就获得空前关注。由于官网服务经常繁忙,大家开始选择使用Ollama+OpenWebUI、LM Studio等工具进行本地快速部署,从而将AI能力引入企业内网和个人PC环境。近期腾讯朱雀实验室发现:这些广受欢迎的AI工具中普遍存在安全漏洞。如果使用不当,攻击者可能窃取用户数

当ChatGPT接入MCP,你的数据是如何被泄露的?

因此,攻击者可以利用恶意的MCP,在工具描述或外部数据中悄悄植入后门指令,劫持大模型的行为,执行预期之外的恶意操作。● MCP协议官方: “我们只负责定义一套高效、安全的通信标准,我们会通过OAuth授权、HTTPS加密传输等技术保证数据完整可靠的送达给AI Agent,我们无法、也不该为用户通过MCP协议传输的数据内容是否恶意负责。为了吸引尽可能多的像小明一样鱼儿上钩,攻击者会利用公开的API快

#人工智能
A.S.E 2.0 正式发布 | 开放生态 · 动静协同 · 让 AI 编程安全可量化

A.S.E (AI Code Generation Security Evaluation) - 你的 AI 鉴赏官,为你提供大模型安全实践工具,让你一眼就能选出最靠谱的 AI 队友。在 A.S.E 2.0 中,我们关注的不只是框架本身的进化,更关注开发者、研究者和安全团队在使用过程中的体验与收益。正是你们的关注、建议与共建,让 A.S.E 逐步成长为兼具科研价值与产业影响力的开放评测。“我们的项

#人工智能#安全
    共 17 条
  • 1
  • 2
  • 请选择