跳到正文
热点事件持续更新

OpenAI试点嵌入外部安全评估员

2 篇报道2 个报道来源首报1 天前更新

先了解这件事

AI 综述

OpenAI 以试点方式把 Apollo Research、Goodfire、METR 和 Transluce 的安全评估员嵌入内部,独立评估模型对齐、防护措施与监控系统。各机构试点启动时间不同,Apollo 的试点本周开始。 OpenAI 称,Apollo 和 Goodfire 因评估获得财务报酬,METR 和 Transluce 不收费,但可能接受算力或 API 额度。Apollo 称,其访问范围限于“仅限约定的主张、仅限评估所约定的具体模型和时间段”。

AI 根据报道生成 · 36 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. TechCrunch · AI
    OpenAI 将嵌入 Apollo、METR 等机构的安全评估员

    OpenAI 宣布以试点方式将 Apollo Research、Goodfire、METR 和 Transluce 的安全评估员嵌入内部,其中 Apollo 的试点本周启动。

11月16日
  1. OpenAI News
    OpenAI 启动首阶段嵌入式评估,联合 Apollo Research、METR、Transluce 与 Goodfire 独立评估模型对齐、防护措施与监控系统

    OpenAI 启动首阶段嵌入式评估,联合 Apollo Research、METR、Transluce 和 Goodfire 独立评估模型对齐、防护措施与监控系统。评估由外部机构独立开展,聚焦对齐、safeguards 与监控系统三个方向。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。