跳到正文
Microsoft Research· Dimitris Papailiopoulos·· 7 天前精选AI 评分80

微软研究披露 Lazarus 后门:重编程休眠神经元即可控制 AI 智能体

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI 导读

微软研究人员发现名为 Lazarus 的后门技术,通过重编程 LLM 中不到 10 个休眠神经元,无需训练即可给基于该模型的智能体植入后门,模型仍能通过标准评测,直到触发条件出现才执行攻击者命令。

推荐理由

微软研究团队披露一种无需训练、仅改动不到 10 个休眠神经元即可给智能体植入后门的权重篡改方法,并给出溯源与检测思路。

来源:Microsoft Research · microsoft.com