Anthropic CEO の Dario Amodei 氏が現地時間 9 月 12 日、個人ブログで長文エッセイ『We Must Pace the Frontier』を公開しました。前線 AI モデルの能力向上を意図的に減速し、安全性の理解と統制が追いつく時間を確保すべきだと主張しています。訓練停止や技術進歩の凍結を求めるものではなく、業界と政府が協調して前線のペースそのものを整える枠組みを提案する内容です。
主なポイント
- Amodei 氏は「pacing the frontier」として 3 段階の計画を提示。(1) 第三者評価者に社内アクセスを開放、(2) 民主主義国の主要 AI 企業間で共通の安全基準を策定、(3) 中国など権威主義国政府も含めた国際的な調整、という順序で拡張していく構想です。
- Anthropic は第 1 ステップに単独で先行コミットし、外部評価者に対して従業員相当の常設アクセス (バッジ・端末・システム可視性) を提供すると発表。安全対策の遵守検証、インシデント報告、訓練中のアライメント評価が可能になります。
- 加速の理由として、AI システムが次世代 AI の開発自体に組み込まれる「recursive self-improvement」の進行と、夏に発生した OpenAI 関連の大規模エージェント攻撃事案などを挙げています。
- OpenAI の Sam Altman 氏は X 上で「we need to pace the frontier」と Amodei 氏の立場に同調する投稿を行いました。