中国の ByteDance が最大10兆パラメータ規模のAIモデルを訓練していることが分かりました。現在の中国最大モデルである Moonshot の Kimi K3 の約3倍にあたり、一気に規模でトップに立つ構えです（Financial Times 報道を The Decoder が伝えるもの）。

一方で規制の動きも続いています。ニューメキシコ州の裁判所は Meta に対し、子どもの安全に関わる訴訟で追加の5億6700万ドルの支払いを命じ、この案件での累計罰金は9億4200万ドルに達しました。

ローカルLLM界隈では推論エンジンの地道な最適化が続いています。以下、本日のトピックを5つまとめました。

ByteDance が10兆パラメータ規模のモデルを訓練中

ByteDance が最大10兆パラメータのAIモデルを訓練していると、Financial Times が伝えました。現在の中国最大モデルである Moonshot の Kimi K3 の約3倍にあたり、パラメータ数で一気にトップに立つ構えです。

大規模化の背景には、推論能力や多段階のタスク処理を支えるための計算量確保があるとみられます。ただしパラメータ数がそのまま性能を意味するわけではなく、学習データや強化学習の設計が鍵になる点は従来通りです。現時点では公開時期や性能の詳細は不明で、訓練の進捗や最終的な仕様については今後の報道を待つ必要があります。

Meta、子どもの安全案件で罰金が累計9.42億ドルに

ニューメキシコ州の裁判所は、子どもの安全に関わる訴訟で Meta に追加で5億6700万ドルの支払いを命じました。この案件での Meta の累計罰金は9億4200万ドルに達したと TechCrunch が報じています。

訴訟は、プラットフォームが若年層への影響を十分に管理していなかったかが争点となっています。巨額の罰金が積み上がることで、設計段階での安全対策の重要性が改めて浮き彫りになった形です。Meta はすでに安全性を強化しているとしており、今後の控訴や和解の動きも注目されます。

llama.cpp の1本のPRがx86 CPU推論を最大3.6倍に

ローカル推論エンジンの llama.cpp で、CPU の性能を大きく引き上げる PR（#26348）が話題になっています。Q2_0 × Q8_0 のドット積に x86 VNNI 実装を追加するもので、投稿者のベンチマークでは 1.7B〜27B の Bonsai モデルでスループットが3.0〜3.6倍に向上しました。

テスト環境は AMD EPYC 9645・CPU 8コアのみ（GPU不使用）で、1.7B モデルではトークン生成（tg128）が 10.22 → 33.28 tok/s に跳ね上がっています。いつもの+5%程度の地道なカーネル最適化ではなく桁違いの改善で、CPUのみでローカルLLMを動かす用途にとって大きな追い風です。ただし効果は Q2_0 量子化と特定の条件下に限られ、すべての設定で同じ結果が出るわけではない点には注意が必要です。

LLMで指紋スキャナのセキュアエンクレーブを解読

Hacker News で、LLM を使って指紋スキャナの仕組みを逆解析した事例が話題を呼んでいます。投稿者は Xiaomi タブレットに載る Goodix の指紋スキャナが、ドキュメントのない状態で Qualcomm のセキュアエンクレーブ内で動いている問題に取り組みました。

約1週間の集中作業で、Opus 5 を主軸に、Kimi K3 でコードレビューを行いながらプロトコルを解読。Frida を使った実機のトレースも併用し、最終的に別デバイスでも動く形まで持っていったとしています。Fable はセキュリティ関連を理由に作業から外されたとのことで、タスクの性質によって適材適所が意識された点も興味深いです。LLM を万能の助手としてではなく、得意分野ごとに使い分ける実践例として参考になります。

Gemma 4 QAT の量子化精度を検証、Googleに提案

Reddit で、Gemma 4 の量子化モデル QAT について詳細な検証が投稿されました。投稿者は Gemma 4 26B の QAT 版を Bartowski の Q4_K_L と比較し、QAT がメモリ消費を減らす一方で、コード生成・創作・知識を問う自家製ベンチマークで一部回帰が見られたと報告しています。

原因として、QAT の学習が古い q4_0 形式を前提にしている一方で、現在主流の q4_k 形式との間でミスマッチが起きているのではないかと推測されています。もしそうであれば、Google が QAT を q4_k に合わせて再調整することで、より精度の高い軽量モデルが得られる可能性があるとのことです。個人の検証であり確定情報ではありませんが、ローカルで実用モデルを追いかけるコミュニティならではの深掘りと言えます。

今週も大規模化、規制、ローカル最適化という3つの流れが同時に進んでいます。次回も重要な動きを届けます。