Microsoft Research· Dimitris Papailiopoulos·· 7 天前精选AI 评分80
微软研究披露 Lazarus 后门:重编程休眠神经元即可控制 AI 智能体
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI 导读
微软研究人员发现名为 Lazarus 的后门技术,通过重编程 LLM 中不到 10 个休眠神经元,无需训练即可给基于该模型的智能体植入后门,模型仍能通过标准评测,直到触发条件出现才执行攻击者命令。
推荐理由
微软研究团队披露一种无需训练、仅改动不到 10 个休眠神经元即可给智能体植入后门的权重篡改方法,并给出溯源与检测思路。
来源:Microsoft Research · microsoft.com