フランスのスタートアップZML、AIチップの推論速度を向上させる無料ソフトウェアを発表
サマリー
フランスのスタートアップZMLが、さまざまなAIチップで動作する推論性能ソフトウェアを無料で提供開始。AI推論の最適化を進め、企業にコスト効率の良い選択肢を提供することを目指しています。新たなAIチップメーカーとの協力も視野に入れ、技術革新を推進しています。
本文
Nvidiaの市場支配は続いていますが、さまざまな挑戦者や選択肢が登場しています。フランスのAIスタートアップZMLは、Turing賞受賞者のヤン・ルカンに支持され、さまざまなオープンソースの大規模言語モデルがNvidia、AMD、GoogleのTPU、Apple Metal、Intel Arcなどの多様なチップ上で動作する推論性能ソフトウェアを発表しました。ZML/LLMDという新たに立ち上げられたLLM推論サーバーを通じて、同社の目標は既存のサイロを打破し、AIの使用ケースにおいて異なるチップを最大限の速度で利用できるようにすることです。AIが私たちの仕事や日常生活に統合される中で、推論の最適化はモデルのトレーニングよりも重要性が増していますが、ソフトウェアやアーキテクチャの障壁によってベンダーロックインが生じることが多いとモラン氏は述べています。ZMLは、企業やクラウドに対して、コストが低いまたはエネルギー消費が少ないチップの混合使用を選択できるオプションを提供することを目指しています。モラン氏は、ZMLが新しいAIチップメーカーと協力し、これまでにないことに取り組むことが重要だと強調しています。ZMLは、AI推論に対する投資が急増している中で、競合他社とともに市場に変革をもたらす可能性を秘めています。
