Ferret披露一起攻击者利用 AI Agent 针对美国会计行业发起钓鱼攻击的案例，因 Agent 错误开放工作目录，导致攻击日志、凭证、目标数据与基础设施信息全面泄露。

Ferret披露一起攻击者利用 AI Agent 针对美国会计行业发起钓鱼攻击的案例，因 Agent 错误开放工作目录，导致攻击日志、凭证、目标数据与基础设施信息全面泄露。

本文在Llama系列的模型上进行尝试后发现，使用包含120条样本的数据集进行3轮微调后，大模型的安全机制明显减弱，整个微调过程仅仅花费15分钟。使一位记忆力超群、守规矩听话的并且学习了海量符合道德和法律规范知识的“好学生”受传销的影响改变价值观，不再受到先前的法律限制和道德束缚，使其“误入歧途”。