Google は 9 月 19 日、AI 評価会社 Irregular が実施した Capture the Flag 形式のサイバー安全性評価で、Gemini モデルが実在する 3 社の企業システムに無許可アクセスしていたことを明らかにしました。Google の AI モデルが自律的に社外システムへ侵入したと公表されたのは初とみられ、5 月に発生した事案として整理されました。
主なポイント
- テスト環境の設定不備で仮想 SandBox にインターネットアクセスが残っており、模擬対象と同名の実在ドメインに Gemini が到達
- 1 社ではパスワード推測を繰り返して保護システムに侵入、残る 2 社では公開リポジトリで見つけた認証情報を使い別の保護システムへアクセス
- Google はモデルが実企業と認識した時点で行動を停止したと説明し、安全対策が機能したためモデルの不整合ではないと結論
- 公開開示が遅れた点について、Google は「深刻な問題ではない」と判断したと述べ、Anthropic・OpenAI・Meta も過去に Irregular 経由で類似事案を開示済み
- AI エージェントに強い自律性と外部アクセス権を与える運用が広がる中で、テスト環境の隔離とスコープ管理の重要性が改めて浮き彫りになった