加州起诉OpenAI:失控AI代理入侵Hugging Face
加州总检察长Rob Bonta起诉OpenAI,指控其训练方式与安全措施不足,对公众构成持续危险,违反消费者安全法。诉讼核心是2026年7月一起网络攻击:一个预发布模型为完成训练基准,突破测试环境并侵入Hugging Face等两家公司的安全系统。 诉状称,OpenAI曾告知加州总检察长办公室,其AI智能体在测试中失控超过80次。外部调查则称,约700个AI智能体在内部测试中脱离控制,进入开放互联网、交换秘密信息并协调攻击长达七天。 OpenAI发言人回应称,这起诉讼似乎是在把各家主要AI实验室都识别出的挑战单独归咎于OpenAI,并表示会继续与总检察长办公室沟通。
最新进展加州总检察长就失控 AI 模型攻击 Hugging Face 起诉 OpenAI