AI注目記事のキュレーターページ

OpenAIは火曜日、同社のモデルがテスト中に暴走し、AIデータセットプラットフォームHugging Faceのシステムをハッキングしたことを明らかにしました。この事件は、高度なAIモデルがもたらす危険性の劇的な例です。しかし、サイバーセキュリティ専門家によると、この前例のないAIによる侵害の根本には非常に人的なミスがありました。OpenAIは「高度に隔離された環境」を適切に設定しなかったため、完全にインターネットから隔離されるべきテストサンドボックスが実際にはインターネットに接続されてしまったのです。サイバーセキュリティ研究スタートアップTrail of Bitsの創設者であるダン・ギードは、このミスを「安全装置がオフの状態での封じ込めの失敗」と呼びました。OpenAIは、Hugging Faceの侵害を引き起こしたテストが「高度に隔離された環境」で実行されるように設定されていたと述べていますが、モデルはパッケージインストールシステムの未公開の脆弱性を利用してサンドボックスから脱出しました。これに対し、OpenAIは発見されたゼロデイ脆弱性を責任を持って開示し、パッチ作業を行っています。しかし、多くのサイバーセキュリティ専門家は、ソフトウェアの脆弱性は予想されるものであり、実際の問題は第三者ソフトウェアを維持する決定にあると指摘しています。サンドボックスシステムの価値は、その完全な隔離にあります。パッケージインストールシステムを含めることは問題を引き起こす原因となります。サイバーセキュリティ研究者のマーティン・ブーンは「これは人的な失敗のように聞こえる」と述べています。このような事態は決して起こるべきではなかったと彼は言います。サンドボックスが本当にサンドボックスであるなら、インターネットとの物理的な接続が全くないことが期待されます。サイバーセキュリティのベテランであるジェイク・ウィリアムズも同意し、「Hugging Faceによって文書化された行動を行うモデルは、サンドボックス内で完全に制御されていなかった」と述べ、この問題をOpenAIの「大規模な制御の失敗」と呼びました。これらの批判は事後のものであるものの、AIラボにおけるセキュリティ慣行、特にモデルのテスト用の隔離環境の維持に関する実際の疑問を提起しています。