今週はフロンティアモデルの発表ラッシュだったが、9月4日に収集した情報の中心は「インフラとエネルギー」に移りつつある。投資、電力、そしてローカル環境──AIの計算をどこでどう賄うのかという問いが、各所で具体化している。

OpenAI、重要インフラ向けAIに10億ドル

Axiosが9月3日、OpenAIが重要インフラ向けのAIイニシアチブに10億ドルを投じると報じた。報道の詳細は現時点では確認できていないものの、Hacker Newsでも取り上げられ注目を集めている。

文脈を見ると、OpenAIは先日「サイバー攻撃の臨界能力を持つ初のモデル」と報じられた新モデルを展開しており、セキュリティや重要施設の防護という領域への接近が続いていた。社会インフラの防衛に10億ドルという規模の資金が動くとなると、消費者向けとは別の軸でビジネスが組み立てられつつあるとみられる。

AIエージェントの電力消費、単純なクエリの最大1万倍

Bloombergの9月3日付の記事が、AIの環境負荷についての分析を伝えている。オープンウェイトのAIエージェントは、単純なクエリと比べて最大1万倍ものエネルギーを使いうるという。タスクの複雑さが増すほど、1回あたりの環境負荷が膨らんでいくという指摘だ。

エージェントによる自律的なタスク実行は今後も広がるとみられる。性能やコストに加えて「エネルギー」という軸での評価が、モデル選びやシステム設計で無視できなくなってくるかもしれない。

ゲーミングPC 2台を連結、ローカルAIクラスタ

NVIDIAがゲーミングPCを連結してローカルAIクラスタとして使えるようにしたと報じられた（ForGeeks）。複数台のPCに載ったGPUを束ね、1台では動かせない大きなモデルの推論などをローカルで行えるようにする狙いとみられる。

専用のマシンを新調しなくても手持ちの環境でクラスタが組めるなら、ローカルLLM好きには嬉しいニュースだ。DGX Sparkのような専用機に手が届かない層への訴求という側面もありそうだ。

Cerebras、フィンランド・ミッケリに165MWのAIデータセンター

CerebrasとCompute Nordic Finlandは、フィンランド南部のミッケリに165MW規模のAIデータセンターを建設すると発表した。ウェハースケールチップで知られるCerebrasが、大規模な推論基盤の整備を進める動きだ。

北欧は冷涼な気候と電力事情からデータセンターの立地として人気が高い。前日のCrusoeによる大型資金調達の報道とも合わせると、AI計算基盤への投資は引き続き加速局面にあると見てよさそうだ。

自然言語の仕様を「ローカルで動く関数」にコンパイルする研究

Hugging Face Daily Papersで「Program-as-Weights（PAW）」を発展させた研究が紹介されている。自然言語で書いた関数の仕様を、共有の0.6Bローカルインタープリタ上で動く小さなニューラルプログラムへとコンパイルする取り組みだ。

従来のPAWコンパイラは単一のフォワードパスで数秒でコンパイルできる一方、難しいタスクでは精度に落ちがあった。新方式「Compile by Training」では、teacherモデルがコンパイル時にタスク固有の例を合成し、約1分のファインチューニングでプログラムを特殊化する。難易度の高いベンチマークのサブセットで83.6%の意味的精度に達し、出来上がったプログラムは通常のPython関数のようにローカルで呼び出し、再利用できるという。

LLMに都度プロンプトを投げるのではなく、タスクを「重み」として持ち帰ってローカルで回す──APIコストやプライバシーが制約となる場面で有力な方向性になりそうだ。

トークン数はコストの代理変数にならない──25,574ターンの実測

Qiitaでは、自身のエージェント利用ログ25,574ターンを解析した記事が公開された。投稿者のmanabu49-ai氏は3日前に「1ターンあたり23万トークンを読み直していた」という記事を出していたが、測り直したところ「トークン数はコストの代理変数にならない」という、別の利用者の結論と食い違う結果に至ったという。

エージェント型コーディングでは「トークン消費が激しい＝コストが高い」という単純な図式が語られがちだが、実測がなければ本当のところは見えない。手元のログで検証し、足りなかった点を自ら訂正していくこの姿勢は、AIコストの議論を進めるうえでの良質な参考になりそうだ。