vulnhuntr通过提示词和静态代码阅读来检测漏洞的细节思路

大语言模型（LLM）的漏洞，分为安全与访问控制、合规与法律、信任与安全、品牌四大类。具体包括注入攻击、知识产权侵权、有害内容、错误信息等多种风险。

4阶段训练与蒸馏

大语言模型（LLM）的漏洞，分为安全与访问控制、合规与法律、信任与安全、品牌四大类。具体包括注入攻击、知识产权侵权、有害内容、错误信息等多种风险。

本文总结了Qwen3的预训练过程中的，数据获取，数据配比，三大预训练步骤（通用、推理、长上下文），超参数调节，测评等预训练过程中的关键步骤。

本文对promptfoo给出的四种安全问题做了详细解读，并给出对应案例。

本文汇总了，大语言模型在用户输入prompt的操作后，大语言模型输出相应结果，这个过程中遇到的两大类安全问题，8种“prompt安全”问题与6种“内容安全”问题。

Jinja2 模板引擎在处理模板时执行了攻击者注入的恶意代码，从而引发了严重的安全问题，如敏感信息泄露、服务器被恶意控制

本文讲解了运行promptfoo做大模型安全性测评的过程以及结果分析

通过具体的数据与处理训练过程，来更好的理解DeepSeek-R1-Zero的强化学习训练方法。