スタートアップGimlet Labsは、AI推論のボトルネックを驚くほどエレガントな方法で解決している。スタンフォード大学の非常勤教授であり、以前にも会社を成功裏に売却した経験を持つ創業者のザイン・アスガー氏は、AI推論のボトルネック問題を巧妙に解決するスタートアップのために、8,000万ドルのシリーズA資金を調達した。この資金調達ラウンドはMenlo Venturesが主導した。
Gimlet Labs社は、同社が「マルチシリコン推論クラウド」と称する、最初で唯一のものを開発した。これは、AIワークロードを多様な種類のハードウェアで同時に実行できるようにするソフトウェアである。AIアプリケーションの処理を、従来のCPU、AIに最適化されたGPU、そして大容量メモリシステムにまたがって分割できる。
アスガー氏はTechCrunchに対し、「我々は基本的に、利用可能なあらゆる異なるハードウェアで実行します」と語った。
リードインベスターであるMenlo Venturesのティム・タリー氏は、今回の資金調達に関するブログ投稿で、「単一のエージェントが複数のステップを連結することがあり、それぞれのステップは異なるハードウェアを必要とします。推論は計算集中型、デコードはメモリ集中型、ツール呼び出しはネットワーク集中型です」と述べている。
現時点ですべてをこなせるチップは存在しないが、新しいハードウェアが展開され、老朽化したGPUが再利用されるにつれて、「マルチシリコンフリートは準備ができています。それを機能させるためのソフトウェアレイヤーが不足しているだけです」。タリー氏がGimlet Labsが提供すると信じているのは、まさにそれである。
現在の「より多くのコンピューティングを展開する」というトレンドが続けば、McKinseyはデータセンターへの支出が2030年までに約7兆ドルに達すると推定している。アスガー氏は、アプリケーションが既存の展開済みハードウェアを使用しているのは「時間の15％から30％の間」に過ぎないと述べている。
「別の考え方をすれば、アイドル状態のリソースを放置しているために、数千億ドルを無駄にしているということです」と彼は述べた。「我々の目標は、基本的に、AIワークロードを今日まで以上に10倍効率的にする方法を見つけ出すことでした」。
そこで彼と共同創業者であるミシェル・グエン氏、オミッド・アジジ氏、ナタリー・セリーノ氏は、エージェント型ワークロードを分割し、あらゆる種類のハードウェアに同時に分散できるようにするオーケストレーションソフトウェアの構築に着手した。
Gimlet Labsは、同じコストと電力でAI推論を3倍から10倍に高速化できると主張している。Gimlet社は、基盤となるモデルを分割して異なるアーキテクチャで実行させ、モデルの各部分に最適なチップを使用することも可能だという。
同社はすでに、チップメーカーであるNVIDIA、AMD、Intel、ARM、Cerebras、d-Matrixと提携している。
Gimletの製品は、ソフトウェアとして、あるいはGimlet CloudへのAPIを通じて提供されるが、一般的なAIアプリ開発者向けではない。最大のAIモデル研究所やデータセンターを対象としている。
同社は10月に一般公開され、その時点で8桁の収益（少なくとも1,000万ドル）があったと述べている。アスガー氏は、過去4か月間で顧客基盤が2倍以上に増え、今では大手モデルメーカーと非常に大規模なクラウドコンピューティング企業が含まれているが、それらの名前は明かさなかった。
共同創業者たちは以前、Kubernetes向けにオープンソースの可観測性ツールを開発したスタートアップPixieで共に働いていた。Pixieは、Benchmarkが主導する900万ドルのシリーズAで立ち上げられてからわずか2か月後の2020年に、New Relicに買収された。（Pixieの技術は現在、Kubernetesを監督するオープンソース組織の一部となっている。）
アスガー氏が約1年前、偶然にもタリー氏と出会い、またスタンフォード大学教授陣からエンジェル投資を受けた後、ベンチャーキャピタルからの連絡が入り始めた。公開後、アスガー氏の元にはタームシートが届いた。ベンチャーキャピタルがアスガー氏がオファーを検討していると聞くと、「かなりの数の資金が集まり」、ラウンドはすぐにオーバーサブスクライブされたと彼は語った。
これまでのシード資金と合わせ、同スタートアップは合計9,200万ドルを調達した。これには、Sequoiaのビル・コフラン氏、スタンフォード大学のニック・マクキーオン教授、元VMware CEOのラグー・ラグーラム氏、Intel CEOのリップブー・タン氏など、多数のエンジェル投資家が含まれる。現在、同社には30人の従業員がいる。
その他の投資家には、シードラウンドを主導したFactoryのほか、Eclipse Ventures、Prosperity7、Triatomicが含まれる。
ソース: 原文へ
※本記事はAI自動翻訳です。正確な情報は原文をご確認ください。
コメント