推論インフレクション——CPU不足が本格化する背景

ここ数日、AI業界のキーパーソンから相次いだ発言が、ひとつの明確なトレンドを浮き彫りにしている。推論（inference）の時代が本格的に到来したということだ。

OpenAIのSam Altman氏は「我々は今、AI推論企業にならなければならない」と述べ、Noam Brown氏も「推論コンピュートは戦略的リソースであり、現時点では過小評価されている」と指摘した。NVIDIAのJensen Huang氏もGTC基調講演で「推論の変曲点が到来した」と宣言。過去2年間で計算需要は100万倍に増加したと主張している。

注目すべきはGPUだけでなくCPU側の需要急増だ。IntelのLip-Bu Tan CEOはQ1決算説明会で、エージェントの本番運用やRL学習環境が大量のCPUリソースを消費していると説明。SemiAnalysisの分析でも、COVID時のサーバー更新サイクルが到来しているにもかかわらず、企業は予算をGPUに振り向けてきたため、CPU不足が発生しつつあると指摘されている。

Prefill/Decode分離が標準化し、NVIDIAによるGroq買収、Intel-Samba Nova連携、AmazonのCerebras提携など、推論最適化の潮流が急速に広がっている。

OpenAI Codex——コーディングツールから汎用ワークサーフェスへ

OpenAIのCodexが、単なるコーディングアシスタントから汎用的な作業環境へと進化している。

具体的には、研究の統合、スプレッドシート操作、意思決定の追跡など、コード以外の知識作業への適用が拡大中。Business/Enterprise向けには**Codex専用シート（座席料金0ドル）**を6月末まで提供し、Supabase連携やFigmaプラグイン（実装計画をFigJamボードに変換）なども追加された。

パフォーマンス面では、Responses APIのWebSocketモードへの移行により、ツール呼び出し間で状態を保持し、最大40%高速なエージェントワークフローを実現している。VS Code側も意味的インデックス機能やクロスリポ検索、プロンプト評価拡張など、ハーネス（エージェントの実行環境）の品質向上が進んでいる。

重要なのは、モデルの性能だけでなく、ハーネスの質がエージェントの成果を左右するという認識が業界全体に浸透しつつある点だ。

Cursor SDKとエージェントハーネスのプラットフォーム化

Cursorが新たにCursor SDKを公開した。これはCursorの内部ランタイム、ハーネス、モデルをCI/CDパイプラインや自動化、製品組み込みエージェントとして利用できるようにするものだ。

これは単なるAPI公開ではなく、Cursorを「IDE製品」からプログラマブルなエージェント基盤へと位置づけ直す動きとして注目に値する。OpenAI Codexのアプリサーバー化やVS Codeのハーネス改良と併せると、コーディングエージェント業界は明確にヘッドレスエージェントランタイム＋使用量ベース課金の方向へ収束している。

一方でLangChainはDeep Agents製品群で、モデルごとのプロンプト・ツール・ミドルウェアをバージョン管理できるHarness Profilesを導入。オープンハーネスとオープン評価の重要性を強調しており、クローズドモデルのコスト増に対応する動きとなっている。

またCloudflareは、エージェント自らがCloudflareの顧客（アカウント作成、ドメイン登録、有料プラン開始）になれる仕組みを構築。エージェントを単なる補助ツールではなく、ビジネスワークフローの主体として扱う流れが見えてきた。

Qwen FlashQLAとvLLM Blackwell最適化——推論カーネルの競争激化

AlibabaのQwenチームがFlashQLAを公開した。TileLang上で動作する高性能リニアアテンションカーネルで、特に小規模モデルの長文脈ワークロードで2〜3倍の高速化を実現している。ゲート駆動の自動カード内CP、代数的再定式化、フューズドワープ特殊化カーネルを組み合わせた設計で、個人デバイス上のエージェントAIを明示的なターゲットに据えている。

vLLMもBlackwell（HGX B300）上でDeepSeek V3.2を230 tok/sで出力という業界トップの速度を達成。NVFP4量子化、EAGLE3+MTP推測デコーディング、モデルごとのカーネルフュージョンを組み合わせた成果だ。SemiAnalysisもvLLM 0.20.0とMegaMoEカーネルがDeepSeek v4 Pro on GB200で大きな成果を出していると報告している。

またZhipu AIはGLM-5のサービング事後分析を公開し、KVキャッシュの競合状態やHiCache同期バグの修正、LayerSplitによる長文脈コーディングエージェントサービングの最大132%のスループット改善を報告した。

AIモデルの「日本文化偏り」を実証分析

ITmediaが報じた欧州チームの研究によると、一部のAIモデル（GPT-4o-miniなど）の出力が日本文化に異常に偏る傾向があることが実証された。

どの国や文化について質問しても、回答が日本の文脈に引き寄せられる現象が確認されており、トレーニングデータの偏りやファインチューニングの影響が指摘されている。これは「AIの中立性」という根本的な問いを投げかける研究として注目される。