Basetenが130億ドル評価で15億ドル調達――「推論ゴールドラッシュ」続く

AI推論インフラスタートアップのBasetenが、130億ドルの企業評価額で15億ドルの資金調達を最終段階に近づいていると報じられました。同社は前回の大型ラウンドからわずか数ヶ月での追加調達であり、AI推論市場の過熱ぶりがうかがえます。

AIモデルの実行(推論)を効率化するインフラ需要は、モデルの大規模化とエンタープライズ採用の拡大に伴って急増しています。Basetenのような推論特化型企业の価値が短期間で跳ね上がる現状は、AI産業におけるインフラ層の戦略的重要性を改めて浮き彫りにしています。

WeiboのVibeThinker-3Bがベンチマーク論争を激化させる

中国のSNS大手Weibo(微博)が公開した小型言語モデル「VibeThinker-3B」が、AIコミュニティでベンチマークを巡る議論を引き起こしています。パラメータ数わずか30億のモデルが、一部のベンチマークで大手モデルに肉薄するスコアを記録したことが話題です。

これに対し、ベンチマークの信頼性や評価方法の妥当性を疑問視する声が相次いでいます。小規模モデルが特定の指標で高得点を出す現象は以前から指摘されており、「実際のユースケースでの性能とベンチマークスコアの乖離」が改めて焦点となっています。ベンチマーク汚染(テストデータが学習データに混入する問題)の可能性も指摘されています。

ABC-130k――最大規模のオープンソースロボット遠隔操作データセットが公開

Hugging Faceで「ABC-130k」という大規模なロボット遠隔操作データセットが公開されました。双腕ロボットステーション(YAM)で収集された操作軌跡データで、総収録時間は3,555時間、エピソード数は130,822に上ります。サブタスク注釈付きのエピソードは43,090件で、アノテーションは独立して改訂可能な構成になっています。

データはMCAPファイル形式で配信され、上部カメラおよび2台のリストカメラによる映像データが含まれています。ロボット学習において良質な実データの不足は長年の課題であり、この規模のオープンデータセット公開は、汎用ロボット操作AIの研究加速に大きく寄与しそうです。付随する論文と学習・デプロイコードも提供されています。

DiffusionGemma 26BがRTX 4090で最大475 t/sを達成

RedditのLocalLLaMAコミュニティで、DiffusionGemma 26BをRTX 4090で実行した結果が報告されました。AWQ-INT4量子化とvLLMのカスタムDocker環境を使用し、初回プロンプトで475 t/s、通常時は290〜700 t/sの生成速度を記録しています。

diffusionベースの言語モデルは従来の自己回帰モデルとは異なる生成方式を採用しており、理論上の高速化が期待されています。一方で報告者は、出力品質が通常の26Bモデルより劣る場合があること、コンテキスト長が限定的(8kテスト)であること、バッチ処理に向かないことなどの課題も指摘しています。「ハヤブがneedle-in-a-haystackテストで苦戦する」とのことで、長文脈の情報抽出にはまだ難があるようです。

味の素グループが経理AIエージェントで工数76%削減

味の素グループの財務・経理部門を担う味の素フィナンシャル・ソリューションズが、経費精算の承認業務をAIエージェントに自律的に実施させる取り組みを本格運用しました。結果として承認業務の工数を76%削減したといいます。

誤りが許されない経理業務でのAI導入は慎重論も根強い中、味の素グループは先行事例となっています。経理人材の不足が深刻化し、業務の幅も拡大する中、AIによる自動化は単なるコスト削減以上の意味を持ちそうです。日本企業におけるエージェントAIの実用化が、着実に現場レベルに広がりつつあることがうかがえます。

連邦規制当局がAIデータセンターの電力網接続を迅速化へ

米国の連邦エネルギー規制委員会(FERC)が、AIデータセンターの送電網接続を迅速化する方針を示しました。AI計算需要の急増に伴い、データセンターの電力消費がボトルネックとなる中、規制側も対応を急いでいます。

AIインフラの拡大は計算資源だけでなく電力網のキャパシティにも依存しており、規制のスピードが産業競争力を左右する構図になっています。再生可能エネルギーの供給と AI需要のマッチングも重要課題となりそうです。

SubQ――数百万トークン対応のサブ二次LLM

Hacker Newsで「SubQ」という、サブ二次計算量(sub-quadratic)の言語モデルが話題を呼んでいます。数百万トークン規模の長文脈推論に最適化されており、従来のTransformerアーキテクチャの計算量O(n²)を下回る設計により、超長文脈での推論コストを大幅に削減できるとしています。

長文脈処理は実用上の需要が高い一方で計算コストが膨大になるため、アーキテクチャレベルの革新が求められています。SubQのような取り組みは、大規模コードベースの解析や長文書の要約など、実用的なユースケースでのLLM活用を広げる可能性を秘めています。