OpenAI 推出 CSAM 圖像分類器 標記量減四成八並收緊 ChatGPT 帳戶處分

OpenAI 於 2026 年 11 月 16 日公布一系列兒童安全措施,包括推出可偵測兒童性虐待素材(CSAM)的圖像分類器、在 ChatGPT 加入中斷有害行為的警告、為開發者提供實務指引,以及支援兒童安全執法調查。新分類器與美國全國失蹤及受虐兒童中心(NCMEC)合作開發,屬首個廣泛可用、並能標示素材是否可能由人工智能生成的同類工具,將以免費形式經 OpenAI API 向經審核機構開放。[1]

分類器如何減少審查負擔

官方表示,新工具針對視覺上的虐待特徵作判斷,可協助團隊辨識未曾見過的新圖像,並回傳分數,讓審查人員優先處理較可能需要跟進的個案。在用戶上載圖像的評估中,與現有防護比較,新分類器標記的圖片數量減少約 48%,但找到的虐待圖像數量相若;被標記的圖像含有虐待內容的機會亦約為舊工具的兩倍。[1]

早期合作夥伴的測試結果亦已公開:fal 以人手覆核的生產環境圖像測試,審查員確認其高信心標記中有 72% 屬新發現的 CSAM;invideo AI 的測試顯示,每四個被標記個案即有一個導致帳戶被停用;SafetyKit 針對將

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

*