AI注目記事のキュレーターページ

MosaicLeaksは、プライバシー漏洩のリスクを抱える深層リサーチエージェントに関する新しいタスクを提案します。これらのエージェントは、プライベートなローカル文書とウェブ検索を組み合わせることで、外部クエリが機密情報を漏洩する可能性があります。MosaicLeaksでは、公開情報とプライベート情報を交互に扱うマルチホップ質問を用いて、エージェントがどのようにプライバシーを守るかを探ります。研究の結果、エージェントはしばしばプライベート情報を漏洩し、タスクのパフォーマンス向上を目指す訓練が逆に漏洩を増加させることが分かりました。新たに提案されたプライバシー意識を持つ深層リサーチ（PA-DR）トレーニング手法は、成功率を向上させつつ、情報漏洩を大幅に減少させることに成功しました。