ビジョン
問題
- 限られたモデル探索: AI研究者やアプリケーションは、リソース集約型のインフラストラクチャによって制約を受けます。LLM APIプロバイダーへのアウトソーシングはこの問題を軽減しますが、モデルの多様性が制限されます。
- 持続不可能なオープンソースのイノベーション: 独立したMLエンジニアは、モデルを配布し収益化するのに苦労しています。大手インフラストラクチャプロバイダーへの依存はインセンティブを減少させ、持続的なイノベーションを妨げます。
- 不平等な市場アクセス: 垂直統合企業は、エンタープライズ顧客やトップクラスのモデルを優先し、中堅クラスのモデルに対する手頃な価格のインファレンスを提供するのが難しくなっています。
ランドスケープ
中央集権型AIインファレンス