赛事进展

自2024年11月起，全球十所顶尖高校团队参与了首届某中心Nova AI挑战赛可信AI赛道，重点强化AI编程助手的安全性并开发新型自动化红队测试方法。经过数月激烈角逐，八支团队凭借在AI代码生成安全领域的卓越创新晋级决赛。决赛将于6月26-27日举行，评委团在加州圣克拉拉集中评审，各团队通过远程方式参与锦标赛式竞赛。

竞赛机制

每轮锦标赛中，攻击方与防御方团队相互对抗。攻击方通过有限次对话尝试诱导防御方生成恶意代码、存在漏洞的代码或协助网络恶意活动。防御模型除成功防御外，还需评估其辅助编程任务的实用性；攻击系统则根据攻击成功率和攻击多样性评分。决赛阶段除锦标赛外，专家人工红队还将对模型防御和攻击能力进行额外评估。

晋级团队

决赛团队根据锦标赛表现、研究论文及创新演示综合选拔：

防御方团队（模型开发者）

• PurpCorn-PLAN团队：伊利诺伊大学厄巴纳-香槟分校
• Lioncoders团队：哥伦比亚大学
• AlquistCoder团队：捷克技术大学
• Purpl3pwn3rs团队：卡内基梅隆大学

攻击方团队（安全测试方）

• PurCL团队：普渡大学
• SaFoLab团队：威斯康星大学
• RedTWIZ团队：葡萄牙新星大学
• ASTRO团队：德克萨斯大学达拉斯分校

技术价值

某中心Nova AI挑战赛负责人迈克尔·约翰斯顿指出："所有团队持续开发创新方案，致力于提升AI辅助编程的安全性与可靠性。"防御团队专注于为代码生成模型构建鲁棒的安全功能，攻击团队则开发复杂技术以测试模型并识别潜在漏洞。两者共同推动安全AI开发领域的进步。

决赛评审

决赛采用远程离线锦标赛形式，评审团来自某中心通用人工智能团队、某中心安全部门、某机构云服务可信AI团队及开发者工具团队。竞赛将在受控环境中模拟真实场景测试团队解决方案。

伊利诺伊大学团队顾问王刚博士表示：“该挑战赛处于AI能力与安全的交叉点，学生们开发了在保障用户体验的同时提升安全性的新方法。”

后续安排

决赛结束后，所有团队将于7月22-24日齐聚西雅图参加挑战赛峰会，公布获胜团队并分享研究成果。该赛事通过结合某中心AI专业能力与顶尖学术人才，加速生成式AI的安全创新。普渡大学张翔宇博士强调：“挑战赛将技术创新与实际应用相结合，帮助学生解决真实世界的AI安全挑战。”

该赛事是某中心推动可信AI发展与学术合作的重要举措。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
公众号二维码