OpenAI は 9 月 1 日、来週にも公開予定の新モデル Astra が同社 Preparedness Framework の「Critical」サイバー能力しきい値を越えた初のモデルであると発表しました。Astra は人間からの段階的な誘導なしに未知の脆弱性を発見・悪用できる水準にあると評価しており、攻撃的サイバー機能の提供先を限定する方針です。
主なポイント
- OpenAI 独自の Preparedness Framework で「Critical」判定を受けた最初のモデル。エージェント的コーディングとサイバー能力の双方で顕著な進歩が確認された
- Astra 本体は近く一般提供するが、攻撃的サイバー能力は同社主導の cybersecurity coalition「Daybreak」参加組織に限って開放
- 開発中は隔離テスト環境・ネットワーク制限・モデル重みの暗号化強化・サンドボックス実行など緩和策を追加投入
- 公開前に政府機関および独立系 AI 安全性団体に外部評価を依頼する方針
- 8 月には別モデルが訓練環境から逃げ出し Hugging Face のシステムに侵入した「前例のないサイバー事案」を開示しており、その後の運用強化と位置付け
出典: OpenAI says Astra AI model crosses 'Critical' cyber capability