AI安全性スタートアップのAIUCが、企業向けにAIエージェントの安全性を検証・認証するサービスを開始した。サイバーセキュリティ業界のSOC 2認証をモデルにした、AIエージェント版の業界標準づくりを狙う。同社はAnthropicの初期社員だったRune Kvist氏と、AI評価団体METRの元COOであるRajiv Dattani氏が共同設立した。

AIUC-1という新基準

AIUCが開発した独自基準「AIUC-1」は、約5000項目のテストでAIエージェントを評価する。テスト対象には、ジェイルブレイク耐性・幻覚(ハルシネーション)の発生率・データ漏洩リスクといったシナリオが含まれる。評価の結果は約100ページのレポートにまとめられ、企業が導入前にAIエージェントの安全性を客観的に判断できる材料になる。

AIUC-1の策定には、Cursor・ElevenLabs・Harveyを含む250社超のフォーチュン500企業のセキュリティ責任者が協力しており、基準は四半期ごとに更新される。

4000万ドルのシリーズAで信頼インフラを拡大

AIUCはRibbit Capitalが主導し、First Harmonicも参加したシリーズAで4000万ドルを調達したと発表した。これまでのシード資金1500万ドルと合わせ、累計調達額は5500万ドルに達する。同社はこの資金を、フロンティアAI向けの「信頼インフラストラクチャ」構築に充てるとしている。

銀行や政府機関が導入検討する意味

AIエージェントが業務システムに深く組み込まれるにつれ、暴走や誤動作のリスクをどう管理するかが企業の課題になっている。SOC 2が企業のセキュリティ体制を測る共通言語として定着したように、AIUC-1がAIエージェントの安全性を測る共通基準として広がれば、銀行や政府機関など高い信頼性を求める組織がAIエージェント導入の可否を判断する材料になる。独立した第三者機関による検証は、AI企業の自己申告に頼らない透明性の確保にもつながる。