AI推論の価格破壊。トークン最大化を狙う新星が大型調達
AI開発者の悲鳴は常に同じです。トークンを速く安く今すぐよこせ。元Groq幹部が率いるスタートアップのParasailが3200万ドルを調達しました。彼らは自社で半導体を抱え込まず世界15カ国のデータセンターの空き時間を … 続きを読む
AI推論
異種チップを束ねるAI推論革命。Gimletが約120億円調達
AIの推論コストを劇的に下げる画期的なアプローチが登場しました。スタンフォード大学発のスタートアップ、Gimlet Labsが約120億円を調達しました。彼らが開発したのは、NVIDIAやAMD、Intelなど、異なるメ … 続きを読む
Nvidia GTC開幕、AI推論市場を狙う新チップ発表へ
Nvidiaの年次開発者会議GTCが来週開幕し、Jensen Huang CEOが基調講演を行います。最大の注目はAIの推論に特化した新チップの発表です。AIモデル運用に不可欠な推論コストの削減はAI普及の最後の壁とされ … 続きを読む