OpenAI の Safety Systems チームで、フロンティアモデル 12 本に添付する安全性報告書 (system card) の作成を主導してきた David Robinson が退職しました。10 月 3 日に The Atlantic へ寄稿した退職エッセイで「OpenAI の文化は壊れている」と題し、現状のまま競争が続けば致命的な失敗が避けられないと警告しています。TechCrunch が同日報じました。
主なポイント
- Robinson は OpenAI 歴 3 年半で在籍最長級の社員の 1 人で、2025 年 4 月版「Preparedness Framework」のドラフトにも関わった
- 寄稿では、OpenAI の試行錯誤型アプローチは「本質的に周期的な失敗を保証する」とし、モデルが高性能化するほど失敗の影響が重くなると指摘
- 原子力・航空のように独立した強制的インシデント報告の仕組みを AI 企業にも導入するよう提案
- 退職直前には、安全研究者 3 名が機密情報を外部に共有した疑いで解雇されたばかりで、Safety Systems 部門の人員流出が続いている
出典: OpenAI safety employee resigns, claiming the company's 'culture is broken'