本论文的贡献在于提出了一种全新的种子生成方法——SeedMind，该方法基于大语言模型（LLMs），并通过创新的反馈机制，解决了传统种子生成技术的局限性。实验结果表明，SeedMind在多个实际测试中表现出色，其生成的种子在质量和效率上均超越了现有的基于LLM的解决方案。

本论文介绍了一个称为MASTERKEY的端到端的框架，其目标是探索越狱攻击和防御背后的整合机制。

研究团队提出了一种由大语言模型（LLM）引导的协议模糊测试的新颖方法，旨在提升网络协议安全测试的效率和成效。这种方法通过使用预先训练好的大语言模型来提取协议的机器可读信息，以指导模糊测试的过程。这不仅显著增加了状态和代码的覆盖率，而且还发现了多个之前未被发现的漏洞。

本文系统回顾了将大语言模型（LLMs）与模糊测试技术结合应用于软件测试的方法。研究表明，虽然现有的模糊测试技术还未能实现完全自动化，并且软件漏洞持续演化，但基于LLMs的模糊测试生成表现出显著的优势。此趋势促进了LLMs生成的模糊测试技术更广泛的部署和应用潜力。

本文旨在深入探讨大语言模型如何增强灰盒模糊测试技术，并展望其在未来测试领域的应用前景。

本研究提出了一个评估大语言模型（LLMs）文本安全性和输出稳健性的新基准——潜在越狱。这个基准通过嵌入恶意指令来考察模型在执行常规任务（如翻译）时的表现，揭示了当前模型在处理含有敏感话题的指令时面临的挑战。

本文探索了利用大语言模型（LLM）增强灰盒模糊测试的方法。利用LLM的预训练知识生成新的有效输入，并通过成对变异种子进一步微调模型以有效学习结构化格式和变异策略。

这篇论文探讨了大语言模型（LLM）在安全训练上的漏洞，特别是针对“jailbreak”攻击的脆弱性。作者发现，尽管进行了大量的红队测试和安全训练，如GPT-4和Anthropic的Claude v1.3等模型依然容易受到攻击。

《人工智能网络安全现状（2024）》深度解读：机遇、挑战与应对策略

近日，ISC.AI 2024第十二届互联网安全大会在北京盛大开幕。本次大会以"打造安全大模型，引领安全行业革命"为主题，旨在呼吁行业以大模型重塑安全体系，以保障数字经济的稳健发展。