子どもは最先端のLLMより、はるかに少ないデータで言語を習得する。その差を「データ効率ギャップ」と呼ぶ。この溝をめぐる認知科学とAI研究の接近ぶりを、MIT Technology Reviewが長編記事で詳しく紹介した。業界側ではMeta・NVIDIA・Alibabaが30Bクラスのオープンモデルを相次ぎ公開し、国内メディアも「なぜいま熱いのか」と考察。投資面ではNvidiaがPerplexityへの出資を300億ドル超の評価額で交渉中と報じられた。

子どもはなぜ、AIより少ないデータで言語を習得できるのか

ChatGPT登場から4年。LLMは人間並みに流暢に話すが、その裏では、人が母語を身につける過程で接する語の10万倍以上というデータが消費されている。MIT Technology Reviewの記事は、この「データ効率ギャップ」をめぐる研究の現在地を丁寧に追っている。

規模の差は比喩でしか語れない、と記事は伝える。現代LLMの訓練語を紙に印刷すれば、国際宇宙ステーションを超える高さの紙の山になる。一方、人間の11歳児が聞くおよそ1億語は、積んでも20メートルで足りる。MetaのLlama 3.1は事前学習に15兆トークンを消化し、フロンティアモデルはその10倍に達するとみられる。ただし、容易に入手できるデータの井戸は2030年代には涸れる可能性もあるという。

子どもの側は違う。幼児はおよそ1000万語（多い子で3000万語）を聞いた頃から、文法的に正しい文を話し始める。スタンフォードの認知科学者マイケル・C・フランクの言葉を借りれば「GPT-2を3000万語で訓練しても、得られるのはナンセンスの生成器で、子どもではない」。

この差を埋める試みが年次コンペ「BabyLM」だ。1億語（幼児スケールのトラックは1000万語）という「発達的に妥当な」コーパスでモデルを訓練し、人間と同じ文法ベンチマークで評価する。単純なデータから複雑なデータへ段階的に進めるカリキュラム学習は初回で最も人気を集めたが、予想ほど効かないことが分かってきた。一方で2024年の優勝モデル「GPT-BERT」は、次トークン予測と穴埋め（マスク言語モデル）を組み合わせ、約1億語の事前学習だけで、約1万5000倍のデータを使ったLlama 2 70Bをあるベンチマークで上回った。

ただしBabyLMのモデルたちは、大きさは「赤ちゃん」でも学び方は赤ちゃんらしくない。子どもは文字だけのプログラムではなく、視覚と聴覚で世界を受け取る。その「子どもが見た世界」を記録するのがヘッドカム研究で、スタンフォードのフランクらが公開した「SAYCam」は3人の子どもの生活を週2時間、生後6ヶ月から2歳半まで撮影した。この61時間の生映像だけで訓練されたモデルが、言語習得に必要とされてきた生得のバイアスなしに、映像の中の物と語を結びつけられた、とプリンストンのブレンデン・レイクのチームが2024年に報告している。さらにプリンストンのウリ・ハッソンは、17人の子どもの最初の1000日間を1日12時間、家中のカメラとマイクで記録した大規模データセットをこのほどプレプリントで公表した。

欠けているピースは「能動的な探索」と「社会性」かもしれない、というのが記事の後半の論点だ。子どもは受け身に世界を眺めるのではなく、実験し、自分の知らないことを意識して埋めにいく。発達心理学者アリソン・ゴプニクは、次世代AI──トランスフォーマーの次に来るもの──こそ発達心理学から学ぶだろう、とみている。少数言語向けのモデルづくりや、大規模計算資源を持たない研究室でもモデルを訓練できるようにするという現実的な動機に加え、データ効率ギャップを埋めることは「自分たち自身を理解すること」にもつながる、と記事は結んでいる。

30Bクラスのオープンモデルがなぜいま「熱い」のか

ITmedia AI+が、Meta・NVIDIA・Alibabaが30Bクラスのオープンモデルを相次ぎ公開し、国産の「LLM-jp-4 33B」も登場した現状を「なぜいま熱いのか」と考察する記事を公開した。同記事は「27BパラメータでOpus 4.6超え」をうたうモデルも現れたと伝える。

手元で回す側の実感を裏付ける投稿もRedditに現れた。ユーザーがQwen 3.8 27B FP8（FP8 KVキャッシュ、256Kコンテキスト、vLLM）でAiderベンチマークを実測したところ、スコアは72.9。2025年4月のGemini 2.5 Pro（72.9）と並び、2025年5月のClaude Opus 4（72.0）や2025年6月のDeepSeek R1（71.4）を上回る。投稿者自身は「古いベンチの1つにすぎない」と留保しつつ、1年ちょっと前のSOTA級スコアをMacで出せるようになったことの感慨を綴っている。

Qwen 3.8 27Bはこれまでにも評価の分かれるモデルとしてたびたび話題になってきたが、同日には「何が苦手か」を問うスレッドも立っており、実運用側の検証が進んでいる段階といえそうだ。

Nvidia、Perplexityに300億ドル超の評価で出資交渉

NvidiaがPerplexity AIへの出資を300億ドルを超える評価額で交渉していると、The Informationの報道としてThe Decoderが伝えた。評価額は前回の資金調達ラウンドを50％以上上回る。Perplexityの年間収益化収益は3倍に増え、7億5000万ドルを超えたという。

同記事は、Nvidiaの投資資金はポートフォリオ企業が同社のチップを購入する形で収益として還流しがち、という構図にも言及する。出資が実現すれば、AIインフラ側と応用側の資本関係がさらに深まることになる。現時点では交渉中であり、条件や実現の可否は不明だ。

Anthropic「豪州はClaudeのコーディング利用が世界に遅れている」

Anthropicの豪州・ニュージーランド責任者Theo Hourmouzisが、同社イベントで豪州のClaude利用の特徴を語った（Bloomberg）。それによると、豪州ではClaudeのコーディング機能の利用が世界の顧客平均に比べて立ち遅れている一方、請求書処理・在庫管理・一般事務といった「バックオフィスの実務的タスク」の割合が5.8％と、世界平均の約4.7％を上回るという。

「豪州の利用はバックオフィスの実務に寄りすぎている」と同責任者。同じモデルでも国によって使い方の重心が変わる様子が見えるデータとして興味深い。

教え子ではなく教師が標的に──学校に広がるディープフェイク被害

学校でのディープフェイク被害は生徒だけの問題ではない。WIREDは、性的なAI生成コンテンツの標的になった4人の教師の証言をまとめた。被害の実態に加え、責任を問える相手を見つけることの難しさが、回復をいっそう困難にしているという。生成AIの浸透とともに、学校現場での対応策整備が急務であることを示す内容だ。

UniSpace──凍結したViTのまま「理解」と「生成」を1つの視覚表現に

Hugging FaceのDaily Papersで注目を集めているのが「UniSpace」だ。事前訓練済みViTのパッチ埋め込みを再パラメータ化することで、意味理解と再構成・生成を1つの視覚表現に統一するアプローチという。意味用と再構成用に別々のエンコーダを追加するのではなく、元の意味経路を保ったまま、再構成を意識した経路を導入する。鍵になる知見は、凍結したViTブロックにはすでに豊富な視覚情報が含まれており、ボトルネックは入力トークンのパラメータ化のほうにある、というもの。マルチモーダルモデルに向けた統一視覚表現への一歩と位置づけられている。

国内開発者動向──anthropic SDK 1.0.0の「httpx離れ」に注意

国内のAIコーディング実践記事も並んだ。注目は、anthropicのPython SDKが1.0.0になった際にHTTP層がhttpx（活発なメンテナンスが続けられていないとされる）から別のライブラリへ移管された点を解説した記事。移行後もそのまま動くため、変化に気づきにくいという。

そのほか、AIコーディングエージェントの要件・実装・レビュー・検証をOpenSpecベースで分離する試みや、記事生成をジョブキューで非同期化する自律エージェントの設計実践、1つのAIの判断に頼らず複数のAIに独立して投票させる合議の仕組みづくり、といった現場の記録が公開されている。