Cisco Talos は 9 月 22 日、AI を組み込んだマルウェアの探索と分類を目的とする OSS フレームワーク CAIRN (Cognitive Artifact Intelligence Research Network) を公開しました。同時に最初の分析対象として、DeepSeek・Qwen・Mistral・Google Gemini の 4 モデルに次の行動を問い合わせて多数決で決定する Windows 型インプラント CLOSEDQUORUM を、公表ベースで初の完全自律 AI コマンド&コントロール実装として報告しています。

主なポイント

  • CAIRN はファイルのメタデータから、埋め込みプロンプト・API エンドポイント・オーケストレーション処理・回避文字列といった認知的痕跡 (cognitive artifacts) を抽出し、AI 統合型マルウェアの追跡に使う開発者向けツールキット。分類器や検出ロジックの共有基盤を志向します。
  • CLOSEDQUORUM は 16.4MB の Go 製インプラントで、資格情報や暗号資産ウォレット窃取を狙う設計。C2 サーバや人間オペレータからの指示を待たず、4 モデルの合議 (plurality vote) で次アクションを決めて実行する完全自律ループが実装されています。
  • Talos は現実世界での稼働は確認していないと明言。公開ビルドはダミー API キー付きの非動作テンプレートで、自律ループの存在は静的解析による証跡のみ。運用側との擬似合わせ込みの段階と評価すべきです。
  • 意味合いとしては、防御側にとって「単一の C2 IP や指令パターンをブロックする」古典的対策の効きが弱まり、LLM API エンドポイントや振る舞い側の検知が焦点になります。CAIRN の狙いは、この観測点を業界で標準化することにあります。
  • 商用 LLM 提供各社の乱用検知・レート制御・エンドポイント側 EDR の連携が現実的な打ち手になります。実弾ではなく研究段階のプロトタイプではあるものの、AI 統合マルウェアが実装可能な既製品部品で作れる状況を示した事例です。

出典: The Closed Quorum: Inside the first reported autonomous AI C2 implant (Cisco Talos)