AI注目記事のキュレーターページ

Lokaは、Amazon Nova 2 Sonicを使用して顧客との音声インタラクションを変革し、自然で応答性の高い体験を提供する会話型AIエージェントを構築しました。AWSベースのこのソリューションは、Big Bench Audioで高い音声推論精度を達成し、従来の音声AIパイプラインよりもコストが大幅に低く、応答時間が速くなっています。本記事では、Lokaが顧客が電話を切る原因となるロボットのような遅い音声アシスタントという一般的なフラストレーションを解決するために使用したアーキテクチャとアプローチを示します。

従来の音声アシスタントは、音声をテキストに変換し、そのテキストを大規模言語モデル（LLM）で処理し、最後にテキスト応答を音声に変換するという3段階のプロセスを踏むため、各ステップで遅延が発生します。この結果、応答を聞くまでに3〜5秒の遅延が生じ、自然な会話の感覚が損なわれます。自動車ディーラーでの実際のシナリオを考えてみましょう。顧客が「広告していたSUVを探しているが、ハイブリッドではないものを希望している。午後5時以降にしか来られない」と言った場合、アシスタントは複数の情報を同時に解析する必要があります。従来のシステムはこの複雑さに苦しみ、重要な情報を失ってしまいます。顧客は電話をかけた際に即座に役立つ応答を期待しており、5秒の遅延は販売の会話では永遠のように感じられます。

最近のAIの進展により、開発者は音声ストリームを直接音声から音声モデルに送信できるようになり、理解、推論、生成を統一されたシステムとして処理できます。これにより、従来のテキストベースのパイプラインでは捉えられないトーンや感情、微妙なサインをキャッチすることが可能になります。Amazon Nova 2 Sonicは、音声推論スコア87.0を達成し、従来のモデルを上回る性能を示しました。さらに、Nova 2 Sonicは1.39秒の応答時間を実現し、自然な「バージン」行動を可能にしました。コスト効率も向上し、Nova 2 Sonicは約$0.27のコストで音声を処理できます。

この技術は自動車ディーラーにおいてすでに収益を生み出しており、顧客は電話をかけた際に即座に役立つ応答を受け取ることができます。音声から音声のAIは生産準備が整い、あなたのビジネスにおける顧客との会話体験を変革する可能性を秘めています。