---
title: "OpenAI 推出 CSAM 圖像分類器 標記量減四成八並收緊 ChatGPT 帳戶處分"
url: https://sammy.hk/openai-csam-classifier/
author: Ethan
published: 2026-11-17T20:38:00+08:00
modified: 2026-11-17T09:52:37+08:00
description: "OpenAI 於 2026 年 11 月 16 日公布一系列兒童安全措施，包括推出可偵測兒童性虐待素材（CSAM）的圖像分類器、在 ChatGPT 加入中斷有害行為的警告、為開發者提供實務指引，以及支援兒童安全執法調查。新分類器與美國全國失蹤及受虐兒童中心（NCMEC）合作開發，屬首個廣泛可用、並能標示素材是否可能由人…"
categories: [AI]
tags: [ChatGPT, OpenAI, "兒童安全", "內容審核"]
source: https://sammy.hk
---
![](https://sammy.hk/wp-content/uploads/2026/11/og_35995.jpg)OpenAI 於 2026 年 11 月 16 日公布一系列兒童安全措施，包括推出可偵測兒童性虐待素材（CSAM）的圖像分類器、在 ChatGPT 加入中斷有害行為的警告、為開發者提供實務指引，以及支援兒童安全執法調查。新分類器與美國全國失蹤及受虐兒童中心（NCMEC）合作開發，屬首個廣泛可用、並能標示素材是否可能由人工智能生成的同類工具，將以免費形式經 OpenAI API 向經審核機構開放。\[1\]

## 分類器如何減少審查負擔

官方表示，新工具針對視覺上的虐待特徵作判斷，可協助團隊辨識未曾見過的新圖像，並回傳分數，讓審查人員優先處理較可能需要跟進的個案。在用戶上載圖像的評估中，與現有防護比較，新分類器標記的圖片數量減少約 48%，但找到的虐待圖像數量相若；被標記的圖像含有虐待內容的機會亦約為舊工具的兩倍。\[1\]

早期合作夥伴的測試結果亦已公開：fal 以人手覆核的生產環境圖像測試，審查員確認其高信心標記中有 72% 屬新發現的 CSAM；invideo AI 的測試顯示，每四個被標記個案即有一個導致帳戶被停用；SafetyKit 針對將

### 相關文章：

1. [OpenAI 於印度推出 ChatGPT 廣告：免費與 Go 方案用戶開始見到贊助內容](https://sammy.hk/openai-%e6%96%bc%e5%8d%b0%e5%ba%a6%e6%8e%a8%e5%87%ba-chatgpt-%e5%bb%a3%e5%91%8a%ef%bc%9a%e5%85%8d%e8%b2%bb%e8%88%87-go-%e6%96%b9%e6%a1%88%e7%94%a8%e6%88%b6%e9%96%8b%e5%a7%8b%e8%a6%8b%e5%88%b0%e8%b4%8a/ "OpenAI 於印度推出 ChatGPT 廣告：免費與 Go 方案用戶開始見到贊助內容")
2. [OpenAI 廣告業務 200 日衝破 10 億美元年化收入：IPO 前商業模式多元化](https://sammy.hk/openai-%e5%bb%a3%e5%91%8a%e6%a5%ad%e5%8b%99-200-%e6%97%a5%e8%a1%9d%e7%a0%b4-10-%e5%84%84%e7%be%8e%e5%85%83%e5%b9%b4%e5%8c%96%e6%94%b6%e5%85%a5%ef%bc%9aipo-%e5%89%8d%e5%95%86%e6%a5%ad%e6%a8%a1%e5%bc%8f/ "OpenAI 廣告業務 200 日衝破 10 億美元年化收入：IPO 前商業模式多元化")
3. [OpenAI 暫停 Pro 訂閱註冊：Astra 需求遠超預期，基建承受前所未有壓力](https://sammy.hk/openai-%e6%9a%ab%e5%81%9c-pro-%e8%a8%82%e9%96%b1%e8%a8%bb%e5%86%8a%ef%bc%9aastra-%e9%9c%80%e6%b1%82%e9%81%a0%e8%b6%85%e9%a0%90%e6%9c%9f%ef%bc%8c%e5%9f%ba%e5%bb%ba%e6%89%bf%e5%8f%97%e5%89%8d%e6%89%80/ "OpenAI 暫停 Pro 訂閱註冊：Astra 需求遠超預期，基建承受前所未有壓力")
4. [ChatGPT 插件大擴充：側邊欄擴充介面、Sites 可託管插件與 MCP 事件自動化](https://sammy.hk/chatgpt-%e6%8f%92%e4%bb%b6%e5%a4%a7%e6%93%b4%e5%85%85%ef%bc%9a%e5%81%b4%e9%82%8a%e6%ac%84%e6%93%b4%e5%85%85%e4%bb%8b%e9%9d%a2%e3%80%81sites-%e5%8f%af%e8%a8%97%e7%ae%a1%e6%8f%92%e4%bb%b6%e8%88%87-mcp/ "ChatGPT 插件大擴充：側邊欄擴充介面、Sites 可託管插件與 MCP 事件自動化")
