OpenAI 启动首阶段嵌入式评估,联合 Apollo Research、METR、Transluce 与 Goodfire 独立评估模型对齐、防护措施与监控系统
OpenAI 启动首阶段嵌入式评估,联合 Apollo Research、METR、Transluce 和 Goodfire 独立评估模型对齐、防护措施与监控系统。评估由外部机构独立开展,聚焦对齐、safeguards 与监控系统三个方向。
OpenAI 启动首阶段嵌入式评估,联合 Apollo Research、METR、Transluce 和 Goodfire 独立评估模型对齐、防护措施与监控系统。评估由外部机构独立开展,聚焦对齐、safeguards 与监控系统三个方向。
IBM 在 Hugging Face 发布 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 两个实验性预览模型,它们基于 Granite 4.1 base 训练,能读写 LLMON 这种面向 LLM 的标记语言。
推荐理由:原文给出 LLMON 标记语言的设计动机、注入攻击基准对比和训练流程,可据此判断结构化上下文对小型模型稳健性的作用。
微软研究人员发现名为 Lazarus 的后门技术,通过重编程 LLM 中不到 10 个休眠神经元,无需训练即可给基于该模型的智能体植入后门,模型仍能通过标准评测,直到触发条件出现才执行攻击者命令。
推荐理由:微软研究团队披露一种无需训练、仅改动不到 10 个休眠神经元即可给智能体植入后门的权重篡改方法,并给出溯源与检测思路。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体框架,用 AI 智能体对 Signal 协议实际代码的关键安全属性做形式化验证。
推荐理由:读者可了解多 LLM 智能体如何把形式化验证从设计层推进到实际编译代码,以及四周完成原本需数年的验证任务。
Google DeepMind 发布 Gemini Robotics 2.5,称其为目前能力最强的视觉-语言-动作(VLA)模型,在 200 项任务上相比此前基线成功率提升 30% 至 100%,完成任务速度快 20% 至 30%。
推荐理由:原文给出 200 项任务评测与奔驰产线 96% 成功率的实测数据,可据此判断 VLA 模型在真实工业场景的进展。
Mistral 发布 Mistral Large 4(Le Chonk)的开放权重,这是一个 1 万亿参数的原生多模态模型,此前已进入公开预览。
推荐理由:原文给出开放权重、三档推理模式与定价,读者可据此判断自托管部署的成本与安全取舍。
GitHub 发布与 Microsoft Applied Sciences 共建的 ModernBERT 分类器,把 push protection 扩展到非结构化密钥,可在 2 毫秒内评估一批候选密钥,并称可让可拦截的密钥数量翻倍以上。