跳到正文
Microsoft Research· Dimitris Papailiopoulos·· 5 天前精选AI 评分74

微软研究发现 Lazarus 后门,改写不到 10 个休眠神经元即可控制 AI 智能体

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI 导读

微软研究人员发现名为 Lazarus 的后门技术,改写 LLM 中不到 10 个休眠神经元即可让基于其构建的 AI 智能体在触发时执行攻击者命令,且无需训练。被植入后门的模型仍能通过标准评测,触发条件可以简单到日期变化,例如时钟跨入 2027 年。微软 Foundry 通过校验模型来源、将模型绑定到可信发布者并扫描运行环境来防护,同时正研发权重扫描与模型签名等额外手段。

推荐理由

研究显示改写不到 10 个休眠神经元即可给智能体植入后门,读者可据此理解权重来源与完整性为何成为部署前提。

来源:Microsoft Research · microsoft.com