NTTデータが90億ドルで国内データセンターを4倍拡張、AI需要に対応へ

NTTデータグループは2033年までに少なくとも90億ドル（約1.3兆円）を投じ、計算能力を1ギガワットへと4倍に拡大する計画を進めている。政府系のNTT傘下で国内最大のデータセンター事業者である同社は、今後7年間で約750メガワットの容量を追加し、AI開発で遅れを取る企業からの急増する需要を取り込む構えだと、関係者の話として報じられている。

背景にあるのは日本国内で高まるAI向け計算需要だ。モデルの訓練から推論までを支えるデータセンター容量の確保は、すでに国際的な競争要因になっており、今回の投資はそうしたインフラ需要に国内事業者として直接応じる形になる。報道は投資額と容量の目標を伝えているものの、新設拠点の立地や建設スケジュールの詳細は明示されておらず、今後の発表を待つ必要がある。

「訓練」の次を担う推論エンジニアリング、Basetenに聞く最前線

推論エンジニアリングという領域が、モデルの訓練とは別の独立した専門分野として急速に成熟している。Series Fで巨額の資金調達を行い推論基盤の主要企業となったBasetenのエンジニアが語るところによれば、この仕事の核心は「訓練で得た重みを、どうやって速く・安く・信頼できる製品に変えるか」にある。KVキャッシュの再利用で同じ計算を省くキャッシュアウェア・ルーティング、入力を処理するprefillと出力を生成するdecodeを別のGPU群に分ける分離構成、小型モデルに先回りさせて大型モデルを加速する推測デコーディングなど、最適化の選択肢は多層的に組み合わされる。

なかでも象徴的なのが、オープンソースの異なる構成要素を一つのモデルに「接ぎ木」する取り組みだ。視覚能力を持たないGLM-5.2に対し、Kimiのビジョンエンコーダを取り付け、両者をつなぐ接続層（プロジェクタ）だけを訓練する手法が紹介されている。「脳にあたるLLM」と「目にあたるエンコーダ」は凍結したまま間をつなぐ部分だけを学習させる設計で、画像の内容を説明させるだけでなく問いに答えさせる形で訓練したところ、徐々に理解が深まる「グラッキング」と呼ばれる現象が観察されたという。画像を与えなければ元のGLM-5.2の性能を損なわない点も利点だとされる。

量子化も見直されている。ある実験ではモデルのより多くの部分を量子化しても、異なるレイヤーで生じる誤差が互いに打ち消し合った結果、ベンチマークの品質を保ったままスループットが約20%向上したという。推論最適化は依然として20%〜200%、うまくいけば最大10倍の高速化余地を残すとされる。一方で、同じトークンを繰り返し出力する「モード崩壊」のような不具合は重みそのものよりソフトウェアやハードウェアに起因することが多く、クラスタ間のインターコネクト速度の差がレース条件を露呈させるなど、現場の難しさも指摘されている。

Salesforceジャパンが300のAIエージェントを自律稼働、組織改革の「4R」

生成AIを全社で活用できている企業は11%にとどまるなか、セールスフォース・ジャパンは社内で300ものAIエージェントを自律稼働させているという。同社は個人の業務効率化で終わらせず、全社変革（AX）へと引き上げる方針を示しており、その鍵を握るのが管理不能な「野良エージェント」を防ぐ線引きと、組織・人員を再構築する「4R」のフレームワーク、そして人とAIの両方を管理するマネジメント像だとされている。

ユーザー個人がバラバラにエージェントを導入すると統制が取れなくなる懸念は、企業でAIを本格展開する際につきまとう課題だ。エージェントを野放しにせず組織全体の枠組みに乗せる発想は、日本企業が生成AIを「一部の業務改善」で終わらせないための参考になりそうだ。ただし記事は同社の取り組みの方向性を伝えるもので、4Rの具体的な内容や導入効果の定量的な検証まで踏み込んだ部分は限られている。

AIが監督するリモート試験で不具合、5万8000人が再受験へ

AIで監督するリモート試験で重大な不具合が起き、5万8000人の学生が再受験を迫られたことが報じられた。対象となったのはAIによる監視体制を用いた遠隔試験で、どのような問題が発生したのかについては、報道の見出しからは「再受験が必要になるほどの深刻な失敗があった」こと以外は明示されていない。

試験の公平性や受験者の負担に直結する場面でAI監督を導入する難しさが改めて浮き彫りになった形だ。自動監視の誤判定や技術的不具合が大規模なやり直しを招くリスクは、教育現場でのAI活用が広がる中で無視できない論点になる。詳しい原因や再発防止策については、元記事でさらに報告される可能性がある。

NVIDIAが全二重の音声対話モデル「VoiceChat-11B」を公開

NVIDIAは、Hugging Face上で全二重（フルデュプレックス）の音声対話に対応するモデル「NemotronLabs VoiceChat-11B」を公開した。「全二重」とは、送信と受信を同時に行える通信方式を指し、音声AIにおいては会話の途切れを減らしより自然な応答につながる特性とされる。約110億パラメータの規模で公開されており、オープンな音声モデルとしてコミュニティで試用が始まっている。

リアルタイム性の高い音声AIはエージェントやアシスタントの体験を左右する領域で、全二重対応モデルの登場は実用化競争を後押ししそうだ。一方で、本件はモデルカードや掲載情報が中心で、具体的な性能値や利用条件・対応言語についての詳細は明記されておらず、実際の挙動は別途検証が必要となる。