OpenAI试点嵌入外部安全评估员
热点事件持续更新
OpenAI试点嵌入外部安全评估员
2 篇报道2 个报道来源首报1 天前更新
先了解这件事
AI 综述
OpenAI 以试点方式把 Apollo Research、Goodfire、METR 和 Transluce 的安全评估员嵌入内部,独立评估模型对齐、防护措施与监控系统。各机构试点启动时间不同,Apollo 的试点本周开始。 OpenAI 称,Apollo 和 Goodfire 因评估获得财务报酬,METR 和 Transluce 不收费,但可能接受算力或 API 额度。Apollo 称,其访问范围限于“仅限约定的主张、仅限评估所约定的具体模型和时间段”。
AI 根据报道生成 · 36 分钟前更新
最新进展11月17日 01:02
OpenAI 将嵌入 Apollo、METR 等机构的安全评估员报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- TechCrunch · AIOpenAI 将嵌入 Apollo、METR 等机构的安全评估员
OpenAI 宣布以试点方式将 Apollo Research、Goodfire、METR 和 Transluce 的安全评估员嵌入内部,其中 Apollo 的试点本周启动。
11月16日
- OpenAI NewsOpenAI 启动首阶段嵌入式评估,联合 Apollo Research、METR、Transluce 与 Goodfire 独立评估模型对齐、防护措施与监控系统
OpenAI 启动首阶段嵌入式评估,联合 Apollo Research、METR、Transluce 和 Goodfire 独立评估模型对齐、防护措施与监控系统。评估由外部机构独立开展,聚焦对齐、safeguards 与监控系统三个方向。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。