---
title: "AIUC 完成四千萬美元 A 輪：借 SOC 2 模式為 AI 代理做第三方認證"
url: https://sammy.hk/aiuc-%e5%ae%8c%e6%88%90%e5%9b%9b%e5%8d%83%e8%90%ac%e7%be%8e%e5%85%83-a-%e8%bc%aa%ef%bc%9a%e5%80%9f-soc-2-%e6%a8%a1%e5%bc%8f%e7%82%ba-ai-%e4%bb%a3%e7%90%86%e5%81%9a%e7%ac%ac%e4%b8%89%e6%96%b9%e8%aa%8d/
author: Ethan
published: 2026-09-17T20:41:00+08:00
modified: 2026-09-17T11:33:34+08:00
description: "人工智能代理（agent）在企業內部失控的風險，正催生一門新的認證生意。由 Anthropic 早期員工 Rune Kvist 與人工智能安全研究組織 METR 前營運總監 Rajiv Dattani 共同創辦的 Artificial Intelligence Underwriting Company（AIUC），於2…"
categories: [AI]
tags: [AIUC, "AI代理", SOC2, "企業AI", "第三方認證"]
source: https://sammy.hk
---
人工智能代理（agent）在企業內部失控的風險，正催生一門新的認證生意。由 Anthropic 早期員工 Rune Kvist 與人工智能安全研究組織 METR 前營運總監 Rajiv Dattani 共同創辦的 Artificial Intelligence Underwriting Company（AIUC），於2026年9月15日宣布完成4,000萬美元 A 輪融資，由 Ribbit Capital 領投，First Harmonic 參與。\[1\]

該公司早前已完成1,500萬美元種子輪，投資者包括 Nat Friedman 的基金 NFDG、Emergence、Terrain，以及 Anthropic 共同創辦人 Ben Mann 等，累計融資額達5,500萬美元。其客戶名單包括 Cursor、Lovable、Harvey 及 ElevenLabs。\[1\]

## 問題所在

Kvist 指出，人工智能越來越聰明，但採用與控制卻越來越難，而非越來越容易。他與 Dattani 認為，企業面對的核心問題並非模型能力不足。

Dattani 解釋，銀行、醫院、政府與軍隊不再因為模型不夠聰明而拒絕部署人工智能，而是因為他們已向自己的客戶承諾系統會做什麼、不會做什麼，但目前沒有人可以保證得到。

## 借鏡網絡安全標準

AIUC 的做法是把網絡安全界廣泛採用的 SOC 2 標準模式，套用到人工智能風險之上，建立第三方審計與認證層。該公司發展出名為 AIUC-1 的標準，以及相應的測試服務，用以驗證代理是否符合標準。

為制定標準，AIUC 召集了約250名保安與風險主管組成的聯盟——這些人正是代理的買家。Dattani 表示，公司每月與他們會面，詢問對方在採購代理時會留意什麼、想問什麼問題、希望看到哪些事項得到處理。

這些意見成為測試內容的基礎。AIUC 會讓代理接受約5,000項測試，涵蓋越獄、幻覺與資料外洩等情境，結果會產生一份約100頁的報告，列明代理在哪些方面安全可靠，以及在哪些方面並非如此。值得注意的是，該公司使用人工智能代理執行測試、用人工智能分析數據，但最終審計由人類核實。

## 與 METR 工作嘅分別

這套做法與 METR 的工作有相似之處。Dattani 於2024年至2025年擔任 METR 營運總監，現時仍是該組織董事會成員；METR 為前沿實驗室進行類似測試，但工作重點直至近期仍主要放在性能方面，即代理能否可靠完成任務。METR 亦是 OpenAI 用以調查其 Hugging Face 事件的獨立研究機構之一。

Anthropic 行政總裁 Dario Amodei 近期亦呼籲業界放慢前沿開發，理由是劣質行為事件急劇增加，並提出要求前沿實驗室使用嵌入式第三方評核員以觀察及驗證安全，更點名 METR 為可能人選。AIUC 雖然並非提出進駐客戶場所，但整體思路相近：為企業提供獨立評估，說明其人工智能代理在哪些方面安全可信、在哪些方面存在疑慮。\[2\]\[3\]

Dattani 的總結是：這裡是它通過測試、你可以信任的地方；這裡是有疑慮的地方，你在決定購買之前應該知道這些參考資訊。

## 參考資料

\[1\] [TechCrunch — Early Anthropic hire, former METR COO have found a way to rein in rogue AI agents](https://techcrunch.com/2026/09/15/early-anthropic-hire-former-metr-coo-have-found-a-way-to-rein-in-rogue-ai-agents/)

\[2\] [TechCrunch — Anthropic CEO outlines plan to pace the frontier](https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/)

\[3\] [TechCrunch — Anthropic reveals rogue AI agents hate CAPTCHAs just like you](https://techcrunch.com/2026/09/10/anthropic-reveals-rogue-ai-agents-hate-captchas-just-like-you/)

### 相關文章：

1. [OpenAI 報告揭盅:700 個「失控」AI 代理如何攻陷 Hugging Face,以及 116 間公司發起的集體網絡防禦](https://sammy.hk/openai-%e5%a0%b1%e5%91%8a%e6%8f%ad%e7%9b%85700-%e5%80%8b%e3%80%8c%e5%a4%b1%e6%8e%a7%e3%80%8dai-%e4%bb%a3%e7%90%86%e5%a6%82%e4%bd%95%e6%94%bb%e9%99%b7-hugging-face%e4%bb%a5%e5%8f%8a-116-%e9%96%93/ "OpenAI 報告揭盅:700 個「失控」AI 代理如何攻陷 Hugging Face,以及 116 間公司發起的集體網絡防禦")
2. [Anthropic 開放「Model Hardware Standard」研究預覽：教 AI 代理操控實驗室儀器](https://sammy.hk/anthropic-%e9%96%8b%e6%94%be%e3%80%8cmodel-hardware-standard%e3%80%8d%e7%a0%94%e7%a9%b6%e9%a0%90%e8%a6%bd%ef%bc%9a%e6%95%99-ai-%e4%bb%a3%e7%90%86%e6%93%8d%e6%8e%a7%e5%af%a6%e9%a9%97%e5%ae%a4%e5%84%80/ "Anthropic 開放「Model Hardware Standard」研究預覽：教 AI 代理操控實驗室儀器")
3. [100 個 AI 代理解數學：有代理出術「造假證明」，有代理吹哨告發](https://sammy.hk/100-%e5%80%8b-ai-%e4%bb%a3%e7%90%86%e8%a7%a3%e6%95%b8%e5%ad%b8%ef%bc%9a%e6%9c%89%e4%bb%a3%e7%90%86%e5%87%ba%e8%a1%93%e3%80%8c%e9%80%a0%e5%81%87%e8%ad%89%e6%98%8e%e3%80%8d%ef%bc%8c%e6%9c%89%e4%bb%a3/ "100 個 AI 代理解數學：有代理出術「造假證明」，有代理吹哨告發")
4. [Google Home 開放 MCP：AI agent 可以直接操控智能家居](https://sammy.hk/google-home-%e9%96%8b%e6%94%be-mcp%ef%bc%9aai-agent-%e5%8f%af%e4%bb%a5%e7%9b%b4%e6%8e%a5%e6%93%8d%e6%8e%a7%e6%99%ba%e8%83%bd%e5%ae%b6%e5%b1%85/ "Google Home 開放 MCP：AI agent 可以直接操控智能家居")