Microsoft Clarityがrobots.txtを無視するボットを検出
サマリー
Microsoft Clarityが新たにボット分析機能を追加し、robots.txtで禁止されたURLへのボットリクエストを検出できるようになりました。これにより、サイトオーナーはボットの活動を無料で監視できるようになります。機能は特定のCDNやWordPressプラグインを通じて利用可能です。
本文
Microsoft Clarityのボット分析ダッシュボードが、robots.txtで禁止されているURLへのボットリクエストを検出し、表示する機能を追加しました。これにより、サイトオーナーはAIクローラーのコンプライアンスに関する懸念を解消するための無料の手段を得ることができます。この機能は、サポートされているCDNに接続するか、最新のClarity WordPressプラグインを使用することで利用可能です。ボットリクエストは、ボットオペレーターやリクエストの種類、要求されたURLなどでフィルタリングでき、ルールを守るクローラーと違反するクローラーのパターンを比較することができます。Clarityは、ボットリクエストがあったことを記録するだけで、なぜそれが発生したのかは示しませんが、サーバーリソースを消費するAIクローラーの活動を把握するために重要です。