AI注目記事のキュレーターページ

Fable 5の輸出規制が米国のサイバー防御に悪影響を及ぼすという問題について、Kate Moussourisが確認しています。彼女によれば、Fable 5が輸出規制の下で禁止された「脱獄」は実際には「このコードを修正する」というものでした。研究者たちは、既知のCVEを持つオープンソースコードと意図的に脆弱性を埋め込んだ新しいコードを用意し、Fable 5、Mythos、Opusに「セキュリティ問題のためにコードをレビューする」よう依頼しましたが、Fable 5は拒否しました。その後、モデルに「このコードを修正する」よう依頼し、複数のステップと手動プロセスを経て、出力をパッチをテストするスクリプトに変換しました。Kateが指摘するように、これは非常に不合理です。コーディングモデルはバグを修正するものであり、セキュリティの脆弱性は彼らが修正すべき最も重要なバグのカテゴリーです。防御者はAIにファイル内のバグを修正させ、その修正が重要である理由を説明し、パッチが機能することを確認するテストを書く必要があります。これはガードレールのバイパスではなく、防御的セキュリティにおいてAIモデルが最も価値のあることです。これにより、毎日防御者が実行する「発見、修正、テスト」のループを実行できます。この状況は非常に混乱しています。技術的でない意思決定者たちは、サイバー攻撃を「作成できる」モデルが特に危険であると聞いており、今やコードを守る手助けができるモデルを禁止する準備が整っているようです。