Anthropicは、コンサルティング大手Accentureを自社初の「組み込み評価機関」に選定したと発表した。Accenture傘下でAI評価を専門とするFacultyのスタッフがAnthropic社内に常駐し、モデルの監視とレッドチーミング、アライメント評価を担う。

5年で最低10億ドルずつを投資

両社は今後5年間で、それぞれ最低10億ドルをこの取り組みに投資する計画を明らかにした。費用はAnthropicがAccentureの活動を直接支える形で負担する。Facultyは英国NHSの新型コロナ早期警戒システムなど、政府・防衛・医療・インフラ分野での実装経験を持つ企業で、深層学習研究そのものでの知名度は高くないものの、大規模組織での実運用知見をAnthropicに提供する狙いがある。

Amodeiの減速提案を具体化する第一歩

Anthropicの共同創業者でCEOのDario Amodeiは先月、AI開発ペースを落とすための3段階案を公表しており、外部による組み込み評価はその第一歩と位置づけられている。今回の提携は非独占的なもので、Anthropicは研究非営利団体METRを含む他の評価機関とも協議を進めており、追加の発表が今後数週間で予定されているという。

自己規制への懸念と株式市場の反応

発表を受け、Accentureの株価は時間外取引で8%上昇した。一方で、AIラボが自ら評価機関を選び資金を提供する仕組みは、独立性の観点から自己規制スキームだとする批判も出ている。Facultyのマーク・ワーナーCEOは「AIは事故的にではなく、設計段階から安全であるべきだ」と述べ、技術的専門性と実運用知見の両輪が安全性確保に必要だと強調した。

アップデート：研究者100人超が独立性の担保を要求

ジェフリー・ヒントン氏を含む100人超のAI研究者が、AIモデルの評価機関は「実質的に独立」であるべきだと指摘し、具体的には「AI企業に所有・統治されず、重大な商業関係を持たず、評価結果に左右される報酬を受け取らない」ことが必要だと訴えている。Anthropicは今回の取り組みで当面の資金を自ら提供する一方、長期的には政府や複数企業による共同基金からの資金調達に移行させたい考えを示している。