The Verge · AI· Lauren Feiner·· 20 小时前AI 评分58
OpenAI 发布 CSAM 分类器,并暂停违规用户访问 ChatGPT 24 小时
OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
AI 导读
OpenAI 在华盛顿发布会上宣布一款可识别儿童性虐待图像(含 AI 生成内容)的分类器,并向通过审核的机构免费开放。OpenAI 称该分类器误报大幅减少,标记图像数量降低 48%,被标记图像中含虐待材料的比例翻倍,并称这是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 用户若尝试生成此类内容,首次违规将被暂停访问 24 小时并收到警告,账号可能被永久关闭。
来源:The Verge · AI · theverge.com