AI注目記事のキュレーターページ

本日、Amazon Bedrock Guardrailsの新しいAPIを発表します。このAPIを使用すると、エージェントAIアプリケーションの任意のポイントで個別の安全対策（安全チェックとも呼ばれます）を適用できます。新しいInvokeGuardrailChecks APIは、エージェントループの任意の段階でサポートされている安全対策を呼び出し、アプリケーションロジックで必要なアクションを実行する柔軟性を提供します。このAPIは検出専用モードで動作し、各安全対策の数値スコアを返します。アプリケーション内でカスタムしきい値とアクションを定義し、特定の要件に基づいて結果をブロック、バイパス、再試行、または監査のためにログに記録できます。Amazon Bedrock Guardrailsは、安全な生成AIアプリケーションを構築するための構成可能な安全対策を提供します。基盤モデル全体にわたる包括的な安全制御により、望ましくないコンテンツを検出し、フィルタリングし、ユーザー入力とモデル応答の両方で機密情報を保護します。InvokeGuardrailChecks APIは、マルチターンワークフローを持つエージェントAIアプリケーションのためにこれらの機能を拡張します。AIエージェントはタスクを計画し、ツールを呼び出し、出力を処理し、ループを反復します。各ステップには異なるリスクプロファイルがあり、異なる安全対策が必要です。InvokeGuardrailChecks APIを使用すると、各エージェントループのステップで必要なチェックを適用できます。APIは数値スコアを返し、アプリケーションロジック内で適切なしきい値とアクションを定義できます。この記事では、InvokeGuardrailChecks APIの動作と、安全なマルチターンエージェントAIアプリケーションを構築する方法について説明します。