カリフォルニア州の Newsom 知事は 9 月 18 日、フロンティア AI モデルに対する独立監視強化と緊急停止「Kill Switch」の制度化を検討する大統領令に署名しました。既存の SB 53・SB 813 に加える形で、州職員と外部専門家で構成する作業部会に 11 月 16 日までに追加立法案を勧告するよう求めます。EO 自体は Kill Switch の実装を直ちに義務化するものではなく、実装の可否と設計を検討する段階に留めます。
主なポイント
- 作業部会は「深刻な安全上の問題が生じた場合にモデルを停止できる緊急停止装置 (Kill Switch)」の必要性と実装方法を検討し、2 か月以内に法改正案を提出します
- AI 研究所内への独立モニターの常駐と定期監査の可否も検討課題とされ、モデル開発現場の透明性強化を狙います
- Newsom 知事は 9 月 9 日に SB 813 (独立検証組織 IVO) と AB 1405 (AI 監査人登録制度) に署名済みで、今回 EO は同枠組みを補完する位置付けです
- 対象はフロンティア AI 事業者。Anthropic は Amodei CEO の「開発ペース低減」提案とも整合するとして支持を表明しています