跳到正文
热点事件持续更新

OpenAI发布CSAM检测分类器并收紧ChatGPT违规处罚

2 篇报道2 个报道来源首报21 小时前更新

先了解这件事

AI 综述

OpenAI发布一款可识别儿童性虐待材料(CSAM)的图像分类器,包括AI生成内容,并通过API向部分公司免费开放,访问由项目管理方控制。OpenAI称,早期测试中标记图像数量减少48%而检出虐待图像数量不变,被标记图像为虐待图像的概率提升一倍;该分类器与NCMEC合作开发。 在ChatGPT端,用户若尝试生成此类内容,将看到警告页面并被暂停访问24小时,同时获得相关支持资源;屡次违规可能导致账号被永久移除。 OpenAI称这是首个带AI生成标记的广泛可用CSAM分类器。上述检测效果为OpenAI自述的测试结果。

AI 根据报道生成 · 36 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. The Verge · AI
    OpenAI 发布 CSAM 分类器,并暂停违规用户访问 ChatGPT 24 小时

    OpenAI 在华盛顿发布会上宣布一款可识别儿童性虐待图像(含 AI 生成内容)的分类器,并向通过审核的机构免费开放。OpenAI 称该分类器误报大幅减少,标记图像数量降低 48%,被标记图像中含虐待材料的比例翻倍,并称这是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 用户若尝试生成此类内容,首次违规将被暂停访问 24 小时并收到警告,账号可能被永久关闭。

  2. TechCrunch · AI
    OpenAI 发布 CSAM 图像分类器并在 ChatGPT 中加入警告与临时封禁

    OpenAI 发布可检测 CSAM 图像(含 AI 生成图像)的新分类器,并通过 API 免费向部分公司开放。该分类器与 NCMEC 合作开发,早期测试中标记图像数量减少 48% 而检出虐待图像数量不变,被标记图像为虐待图像的概率提升一倍。ChatGPT 同时新增警告页面,对试图生成此类内容的用户提示并临时封禁账号 24 小时,屡次违规可永久移除账号。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。