Inkling: オープンウェイトモデルの発表
サマリー
Thinking Machines Labが新たに発表したオープンウェイトモデル「Inkling」は、975Bのパラメータを持つマルチモーダルモデルです。Inkling-Smallも開発中で、カスタマイズに適したベースモデルとして期待されています。オープンウェイト市場に新たな競争相手が登場しました。
本文
Mira MuratiのThinking Machines Labが初のオープンウェイトモデル「Inkling」を発表しました。Inklingは975Bの総パラメータを持つMixture-of-Expertsトランスフォーマーで、41Bがアクティブです。このモデルは、テキスト、画像、音声、動画の45兆トークンでトレーニングされたApache-2.0ライセンスのマルチモーダルモデルです。また、276B（12Bアクティブ）のInkling-Smallも開発中で、テストが完了次第ウェイトが公開される予定です。Thinking Machines Labは、公開されているコンテンツや第三者から取得したデータを使用してAIサービスを開発しており、Inklingはカスタマイズのための強力なベースモデルとして位置付けられています。オープンウェイトモデルの競争が激化する中、Inklingは新たな有力候補として注目されています。
