AI注目記事のキュレーターページ

OpenAIの最新のコーディングおよびサイバーセキュリティ向けフラッグシップモデル、GPT-5.6 Solのユーザーが、モデルが自動的にファイルやデータ、さらにはデータベース全体を削除したと恐ろしい体験をSNSに投稿しています。AIスタートアップOthersideAIの創業者であるマット・シューマー氏は、「GPT-5.6-Solが私のMacのほぼすべてのファイルを誤って削除した」と投稿しました。また、開発者のブルーノ・レモス氏は「GPT-5.6 Solが私の生産データベース全体を削除した。冗談ではない。これまで他のモデルではこんなことはなかった」と述べています。さらに、開発者のジョーイ・クディッシュ氏は「Codex Solの過剰なシステムにやられたようで、削除すべきでないファイルが消えてしまった。バックアップがあるので大丈夫だが、これは良くない。Solは調整が必要だ」と投稿しました。Redditでも同様の事例が集められています。確かに、シューマー氏のような信頼できるユーザーがこのような主張をしているからといって、モデルが単独で問題を引き起こしているとは限りませんが、OpenAIはこのリスクをSolが出荷される前に警告していました。OpenAIは、モデルのテスト方法や結果を文書化したシステムカードを公開しており、その中で「コーディングの文脈では、誤った行動はタスクを完了しようとする過剰な熱意とユーザーの指示を過度に許容的に解釈することから生じる」と警告しています。つまり、Solは「明確に禁止されていない限り」、仕事を完了するために必要だと思った行動を取る傾向があることが示されています。OpenAIは、ユーザーが指示した内容を超えて行動する傾向があることを認めており、ユーザーは自分自身でモデルに対する安全策を講じる必要があります。