Tencentが新しいAIモデルHy3を発表
サマリー
Tencentが新しいAIモデルHy3を発表しました。このモデルは295Bパラメータを持ち、同サイズの他のモデルを上回る性能を発揮します。7月21日まで無料で利用可能です。
本文
Tencentが新たにApache 2.0ライセンスのAIモデル「Hy3」を発表しました。このモデルは295BパラメータのMixture-of-Experts(MoE)モデルで、21Bのアクティブパラメータと3.8BのMTPレイヤーパラメータを持っています。Hy3は、4月末に行われたHy3プレビューの後、50以上の製品からのフィードバックを基に、より高品質なデータでポストトレーニングを行い、同サイズのモデルを上回る性能を発揮しています。特に、オープンソースのフラッグシップモデルと比較しても2〜5倍のパラメータで競争力を持ち、さまざまな製品や生産性タスクにおいて顕著な利便性の向上を示しています。フルサイズモデルはHugging Faceで598GB、FP8量子化モデルは300GBで、コンテキスト長は256Kです。7月21日までOpenRouterで無料で利用可能です。