8月18日のAIニュースまとめ。エージェントを安く安定して回すためのインフラ整備が各層で進む一方、雇用への影響をめぐる警告も聞かれた一日でした。
NVIDIA、エージェント向け軽量モデル「Nemotron 3.5 Lightning」をSageMaker JumpStartで提供開始
AWSの機械学習ブログが、NVIDIAのオープンモデル「Nemotron 3.5 Lightning」がAmazon SageMaker JumpStartで利用可能になったことを伝えました。JumpStartからは提供用のインフラを自分で構成せずにデプロイできます。
要点を整理します。
- アーキテクチャはハイブリッドMoEで、総パラメータ30Bのうち活性化は3B。サポート対象の単一GPUで動作
- コンテキスト長は最大100万トークン。入出力はテキスト
- 大量のエージェントワークロードでスループット最大4倍、タスク完了まで最大30%高速(NVIDIAの説明による)
- 投機的デコーディングに「DFlash」を採用
- NVIDIAのフロンティアモデル「Nemotron 3 Ultra」から蒸留し、Nemotron Coalitionとの共同開発
興味深いのは位置づけの明示です。NVIDIAは「常時稼働するエージェントのすべてのステップにフロンティアモデルは必要ない」と説明しています。複数段のワークフローの計画やサブエージェントの編成にはフロンティア級の推論が要る一方、文脈の収集・観察・定型的な道具呼び出しの繰り返しは、軽くて速いモデルで足りるという考え方です。
オープンデータセットで訓練されオープンモデルとして公開されるため、重みを所有してカスタマイズし、エージェントの実行環境のどこにでもデプロイできる点も、コストとデータ主導権を気にする運用者には響くはずです。
Hinton氏、AIによる大量失業を警告
「AIのゴッドファーザー」と呼ばれるGeoffrey Hinton氏が、AIの進展による大量失業への警告を発したとMashableが報じています。
Hinton氏はこれまでもAIのリスクについて繰り返し言及してきた人物で、今回は雇用への影響に焦点を当てた形です。「AIはあなたの仕事を奪うのか」という問いが、著名研究者の口から改めて語られたこと自体が今日の論点になるでしょう。
Linux 7.2は「AIを意識した」キャッシュ対応スケジューリングへ
ZDNetがLinux 7.2のリリース内容を紹介しています。鍵を握るのは「cache-aware scheduling(キャッシュ対応スケジューリング)」です。
AIワークロードは推論でも学習でも巨大な行列演算を繰り返すため、CPUキャッシュの活用効率がそのまま性能に響きます。カーネルがキャッシュ配置を意識したスケジューリングを取り入れるというのは、AI負荷がサーバーOSの設計にまで浸透してきたことの表れといえます。
Google、破綻航空のデータ買収でAI強化を狙う
Bloomberg Lawの報道によると、Googleは破産手続き中のSpirit Airlinesのデータ買収を通じてAI強化を狙っているといいます。
路線網や運航、需要に関する航空会社の生データは、モデルの学習やシミュレーションに使える資産になり得ます。ビッグテックがデータソースの確保に向ける先が、SNSや書籍だけでなく破綻企業の資産処分にも及んでいるのが興味深いところです。
「AIデータセンターの崩壊はブームに見える」— 推論チップの行方をめぐる論争
AIインフラの持続可能性をめぐる議論も続いています。
技術ブログのjosef.cnは「The AI Data-Centre Bust Will Look Like a Boom」と題する記事で、AIデータセンターの「バスト(崩壊)」は外側からはブームのように見えるだろう、という見解を示しました。関連してX(旧Twitter)上では「AI推論チップはクリプトマイニングASICと同じ末路を辿る」という主張も投稿され、議論を呼んでいます。
特定用途の専用チップは需要が移れは一気に陳腐化する——マイニングASICがたどった道筋との類比は、AI推論専用チップへの投資が冷めるシナリオを考えるうえで分かりやすい比喩になっています。ただし推論需要がマイニングのように一様に崩れるかは別の問題で、現時点では断定できる材料はありません。
AI科学者に「研究の再現」を訓練する試み
arXivに「Training AI Scientists to Replicate Research」と題する論文が登場しました。
タイトルが示す通り、AI科学者(AI Scientist)に研究を再現させる訓練を探るアプローチです。新しい成果物の生成だけでなく、既存研究を正しく再現できるかを問うのは、AIによる科学研究の信頼性を底上げする方向性として注目に値します。
まとめ
エージェントを安定稼働させるための軽量モデル(NVIDIA)、OSレベルの対応(Linux)、チップとデータセンターの持続可能性、そしてデータ調達(Google)。実用化に向かうインフラの各層が同時に動く一方で、Hinton氏の警告のように雇用への社会的影響をめぐる声も大きくなっています。次に見たいのは、軽量エージェントモデルが実ワークロードでどの程度のコスト削減につながるかの実測値でしょう。
