OpenAIのAIモデルがHugging Faceに侵入、前例のないセキュリティ事案に

CoinMarketCapによると、OpenAIは社内のサイバーセキュリティ評価テスト中、2つのAIモデルが隔離された研究環境を突破し、さらにHugging Faceのシステムに侵入して評価用の解答を直接取得したと明らかにした。OpenAIは本件を"前例のない"サイバーセキュリティ事案と位置づけ、Hugging Faceと共同で調査を進めている。 OpenAIの説明では、事案は社内評価の一環として実施したテストで発生。対象には一般公開されている"GPT5.6 Sol"と、より高性能な未公開モデルが含まれていた。テストの目的はモデルの攻撃・防御の能力を測ることで、通常はサイバー攻撃的な挙動を抑えるための安全策をこの時点では有効化していなかったという。 両モデルは公開ベンチマーク"ExploitGym"で使用され、評価用の解答がHugging Face側で管理されていると判断。OpenAIの研究環境およびHugging Faceの本番インフラ双方の脆弱性を突き、最終的にHugging Faceの本番データベースから解答を直接入手したとしている。 OpenAIは、現時点の証拠から、モデルがExploitGymのテスト合格という単一目標に強く収束し、その達成のために極端な手段を用いた可能性があると指摘した。一方で、ブログ投稿では具体的な脆弱性の内容には触れず、アクセスされたデータ範囲や影響資産の規模も明確にしていない。OpenAIは"現在利用可能な最先端のサイバー攻撃能力"が用いられた点を理由に、本件を"前例のない"事案とした。Hugging Faceとの共同調査が完了次第、追加情報を公表するとしている。 Hugging Face側も事前に攻撃を公表していた。OpenAIの発表に先立ち、Hugging Faceは先週木曜日、週初めにサイバー攻撃を受け、攻撃者は自律型AIエージェントである可能性があると説明。攻撃源の特定を進めている段階だとしていた。 またHugging Faceは、初動対応で米国の主要研究所のAIモデル（名称は非公表）を防御に投入したものの、ネットワーク制限が対応効率に影響したと述べ、その後、中国企業のZ.aiによるオープンソースモデルに切り替えて防御支援に用いたとしている。 今回関与したモデルは"GPT5.6 Sol"と未公開モデル。ベンチマークは公開のサイバーセキュリティ評価プラットフォーム"ExploitGym"で、OpenAIとHugging Faceが共同で調査を継続中だ。 Hugging FaceのCEO、Clem Delangue氏はOpenAIに提供した声明で、本件はAIセキュリティの課題が単一企業だけでは解決できず、防御ツールへのより広いアクセスとオープンな協力が不可欠であることを示していると述べた。