Import AI 481:FrontierML 评测智能体用资金提升模型性能,AI 湿实验室与自我改进中的隐蔽破坏
Import AI 481 介绍了 FrontierML 基准,它用 21 个端到端机器学习任务衡量智能体把资金转化为模型性能的能力,任务提供 12 小时 CPU 沙箱和 10、50、200 美元预算。
Import AI 481 介绍了 FrontierML 基准,它用 21 个端到端机器学习任务衡量智能体把资金转化为模型性能的能力,任务提供 12 小时 CPU 沙箱和 10、50、200 美元预算。
微软研究人员发现名为 Lazarus 的后门技术,通过重编程 LLM 中不到 10 个休眠神经元,无需训练即可给基于该模型的智能体植入后门,模型仍能通过标准评测,直到触发条件出现才执行攻击者命令。
推荐理由:微软研究团队披露一种无需训练、仅改动不到 10 个休眠神经元即可给智能体植入后门的权重篡改方法,并给出溯源与检测思路。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体框架,用 AI 智能体对 Signal 协议实际代码的关键安全属性做形式化验证。
推荐理由:读者可了解多 LLM 智能体如何把形式化验证从设计层推进到实际编译代码,以及四周完成原本需数年的验证任务。