AI注目記事のキュレーターページ

IBSソフトウェアのCargoシステムは、毎日数千件のバイリンガル貨物物流メールメッセージを処理しています。このシステムは、エアウェイビル（AWB）番号、フライトの詳細、重量、配達指示などの重要な情報を英語と日本語の両方から抽出します。バイリンガルの命名体認識（NER）ソリューションの構築は複雑であり、手動介入が運用を遅延させ、精度とコストのトレードオフが課題でした。IBSソフトウェアは、スケールでコスト効果を維持しながら、23種類の異なるエンティティタイプを正確に識別できるAIソリューションを必要としていました。

複数のアプローチを検討した結果、IBSソフトウェアはAmazon Bedrockの管理された蒸留機能を使用して、商用利用可能なソリューションを作成しました。Amazon Nova Proからより効率的なAmazon Nova Liteモデルへの知識の蒸留により、95.085%のF1スコア精度を達成し、運用コストを14倍削減しました。このケーススタディでは、オープンソースの実装からAWS上での成功した展開までの道のりを詳述します。

この投稿では、トークンベースの蒸留を使用した技術的アプローチ、学んだ教訓、展開アーキテクチャを共有します。バイリンガルNERの課題に直面している場合、IBSソフトウェアのAmazon Bedrockの知識蒸留機能に関する経験から利益を得ることができます。