Google DeepMind で AI アライメント研究に従事していた Alex Turner 氏 (ハンドル名 Turntrout) が 7 月 15 日付のブログで、同社の Pentagon 向け軍事 AI 提供契約に抗議して 6 月に辞任したと公表しました。氏は「Google が 2018 年に、致死性自律兵器と大量監視への AI 転用をしないと誓ったにもかかわらず、無制限の Pentagon 契約に署名した」と説明しています。契約巡っては CEO Demis Hassabis 氏らが Google の AI 原則から武器転用禁止条項を削除するブログを共同執筆していました。
主なポイント
- 250 人超の DeepMind 従業員が署名した社内嘆願書を Chief Scientist Jeff Dean 氏に提出、対応拒否
- 契約条項・監督機構を盛り込んだ 25 ページの安全枠組みも社内で否決
- Pentagon が Anthropic に無制限提供を求めて経済的圧力をかけたことが、Google も同じ道を辿ると氏が判断した契機
- Hacker News で 7 月 15-16 日に上位 3 位入り、AI ラボ経営陣への内部からの離反として注目される
- 7 月 15 日にはハサビス氏らが「AI 標準化機関」を提唱する報道もあり、規制と実運用のギャップが改めて論点化