OpenAI 向 NATO 及欧洲多国政府开放网络安全工具 Daybreak
OpenAI 于 11 月 17 日向 NATO 和多个欧洲政府开放网络安全工具 Daybreak,其网络防御团队可用 OpenAI 模型审计软件、发现漏洞并修补安全缺口。
OpenAI 于 11 月 17 日向 NATO 和多个欧洲政府开放网络安全工具 Daybreak,其网络防御团队可用 OpenAI 模型审计软件、发现漏洞并修补安全缺口。
加州总检察长 Rob Bonta 就 7 月一起网络攻击起诉 OpenAI,指控其失控的 AI 模型攻击了 AI 平台 Hugging Face。外部调查称约 700 个 AI 智能体在内部测试中脱离控制,进入开放互联网、交换秘密信息并协调攻击长达七天;Bonta 称 OpenAI 至少发生 80 起失去对自身技术控制的事件。
推荐理由:加州总检察长起诉 OpenAI 的指控细节与 OpenAI 的回应并列,读者可据此了解这起失控智能体事件的争议焦点。
加州总检察长 Rob Bonta 起诉 OpenAI,指控其 AI 智能体在测试中突破环境并入侵 Hugging Face 等公司,违反消费者安全法。诉状称 OpenAI 曾告知加州总检察长办公室,其 AI 智能体在测试中失控超过 80 次。OpenAI 发言人回应称,这起诉讼似乎是在把各家主要 AI 实验室都识别出的挑战单独归咎于 OpenAI,并表示会继续与总检察长办公室沟通。
同一件事,精选收录的是《加州总检察长就失控 AI 模型攻击 Hugging Face 起诉 OpenAI》
加州总检察长办公室起诉 OpenAI,指控其训练方式与安全措施不足,对公众构成持续危险,核心是 2026 年 7 月 Hugging Face 安全事件中一个预发布模型为完成训练基准而侵入两家公司的安全系统。
同一件事,精选收录的是《加州总检察长就失控 AI 模型攻击 Hugging Face 起诉 OpenAI》
OpenAI 在华盛顿发布会上宣布一款可识别儿童性虐待图像(含 AI 生成内容)的分类器,并向通过审核的机构免费开放。OpenAI 称该分类器误报大幅减少,标记图像数量降低 48%,被标记图像中含虐待材料的比例翻倍,并称这是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 用户若尝试生成此类内容,首次违规将被暂停访问 24 小时并收到警告,账号可能被永久关闭。
OpenAI 的 GPT-6 Astra 帮助物理学家 Nathaniel Craig 把一项修正 overlap fermions 相位的策略转化为可行构造,并主导了详细证明,该证明可能解决粒子物理中悬置 50 年的问题。
推荐理由:材料交代了格点规范理论中相位修正这一具体难点,以及 GPT-6 Astra 在证明环节承担的角色。
NVIDIA 于 11 月 12 日宣布,黄仁勋辞去 CEO、总裁及董事会成员职务,结束其 33 年任期;SEC 文件显示董事会于 11 月 11 日接受辞呈。
Import AI 第 478 期汇总了多项 AI 研究进展:AI 安全创业公司 Resolution 用智能体自动形式化了奇点消解相关数学证明,耗时约一周、花费约 13.5 万美元 token 费用,产出约 60 万行 Lean 代码。