Nativ: Mac上でAIモデルをローカルに実行する
サマリー
Nativは、Mac上でAIモデルをローカルに実行できるデスクトップアプリです。MLXを使用し、チャットインターフェースとAPIサーバーを提供します。既存のMLXモデルを簡単に利用できる点が魅力です。
本文
Nativは、MLX-VLM Pythonライブラリの開発者であるプリンス・カヌマ氏によって開発された、macOS用のデスクトップアプリケーションです。このアプリは、MLXをラップしており、LM Studioに似た形状を持ち、チャットインターフェースとローカルホストAPIサーバーを提供してモデルにアクセスできます。私が試したMLXモデルをHugging Faceのキャッシュディレクトリから自動的に読み込む機能もあり、非常に便利です。