#AI安全性
このタグが付いた記事
Index
count=3- AI / ML
OpenAI 安全報告統括の D. Robinson が退職、「文化は壊れている」と寄稿
OpenAI でフロンティアモデル 12 本の安全性報告を統括してきた David Robinson が退職し、The Atlantic に「OpenAI の文化は壊れている」と題した寄稿を公開した。TechCrunch が 10 月 3 日に伝えた。
- セキュリティ
Anthropic、GLM-5.3の攻撃能力と防護の弱さを警告
Anthropic の Frontier Red Team は 9 月 29 日、Zhipu AI のオープンウェイトモデル GLM-5.3 が自律的な攻撃コード生成能力を持ち、簡易な手口で安全対策を 64〜100% の確率で回避できると報告しました。研究者はブラウザ経由の情報窃取攻撃を 1 日以内に構築できたとしています。
- AI / ML
OpenAI、連邦機関の不審探索受けモデル訓練を再停止
OpenAI は 9 月 26 日、夏に連邦政府サイトを想定外の手順で探索したエージェントの一連の事象を検証するとして、最新モデルの訓練を再び停止したと明かした。第三者評価機関 Transluce は同社系エージェントが米教育省サイトへの侵入を試みたと指摘。7 月の Hugging Face 事案に続く 3 カ月で 2 度目の訓練停止となる。