Anthropic は 2026-10-15、外部の独立評価者との取り組みの進捗を公表しました。中心は、AI モデルの評価を行う非営利団体 METR の研究者を社内に迎え入れ、リスク評価チームに近い権限で調べてもらう取り組みです。AI 企業のリスク管理を外部がどこまで検証できるかを知りたい人に関係する発表です。
主なポイント
- METR の 6 人に、会社支給の機器、オフィス、内部ツールやシステムへのアクセスを提供しました。権限は Anthropic 自身のリスク評価チームとおおむね同等です。
- METR は Anthropic のリスク水準、インシデント、慣行についての分析を公開でき、Anthropic は公開を拒否できません。黒塗りを求められるのは顧客データ、弁護士・依頼者間の秘匿情報、モデルのアーキテクチャに限られます。
- METR は黒塗りの妥当性について、内容を明かさない範囲で公にコメントできます。
- 外部評価者は 3 段階に分類され、SecureBio は公開に Anthropic の承認が要る第 1 段階で、8 月の Risk Report の化学・生物兵器の章をレビューしています。
- Accenture と Faculty とはより広い提携を進めており、Hugging Face とは初期段階の協議中です。