TechCrunch · AI· Ivan Mehta·· 1 天前AI 评分59
OpenAI 发布 CSAM 图像分类器并在 ChatGPT 中加入警告与临时封禁
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI 导读
OpenAI 发布可检测 CSAM 图像(含 AI 生成图像)的新分类器,并通过 API 免费向部分公司开放。该分类器与 NCMEC 合作开发,早期测试中标记图像数量减少 48% 而检出虐待图像数量不变,被标记图像为虐待图像的概率提升一倍。ChatGPT 同时新增警告页面,对试图生成此类内容的用户提示并临时封禁账号 24 小时,屡次违规可永久移除账号。
来源:TechCrunch · AI · techcrunch.com