拡散モデルは画像生成で成果を上げてきたが、テキスト生成では長らく自己回帰モデル(1トークンずつ順に生成する方式)が主流だった。8月4日に公開された技術レポート「DiffusionGemma」は、この前提に一石を投じる。Gemma 4(活性化3.8B・総パラメータ25.2BのMoEモデル)をベースに、256トークンのブロックを単位として並列的に精製していく離散拡散方式を採用し、1回の推論あたり約20トークン、H100単体で1秒間に約1500トークンを生成するという。従来型の逐次デコードが抱えるボトルネックを回避し、生成速度とモデル能力の新たなトレードオフの最前線を示したと主張している。学習は2段階で、最初に双方向のノイズ除去を教えるSFT、次に強化学習とサンプラ蒸留を組み合わせて品質と効率を同時に高める。元の自己回帰モデルの全学習トークン予算の1割未満で済んだとも報告されており、仕組みとしては興味深いが、汎用言語能力でどこまで既存モデルと渡り合えるかは今後の評価を待ちたい。

中国AIが作る「死の地帯」とQwen3.8-Max

中国勢のモデルラッシュが米中の技術格差を急速に縮めている。Bloombergは、フロンティア級の技術か破壊的な低価格のいずれも持たないプレーヤーにとって市場が「死の地帯(death zone)」になりつつあると伝える。AlibabaのQwen3.8-Maxは同社の最先端モデルで、ベンチマークの頂付近に登場し、AnthropicのFable 5に匹敵もしくはそれを上回る成績を示したとされる。2週間前にはMoonshot AIのKimi K3が、はるかに控えめな予算で高価な米国モデルに迫る性能を見せ、米国の半導体輸出規制の有効性に改めて疑問が呈された。

Latent Spaceのまとめによれば、Qwen 3.8 Maxは2.4兆パラメータ規模で、Kimi K3が登場していなければ世界トップのオープンモデルだった可能性があり、両モデルともオープンウェイト公開が約束されているという。10日以上に及ぶ無人の長時間コーディングや、論文のパイプラインを一から再構築する自律研究といった能力も報告されている。オープンモデルの選択肢が短期間に一気に広がる半面、追随する側のコスト競争は一段と厳しくなっている。

強化学習でアライメントを取る際の「副作用」

検証可能な報酬を使う強化学習(RLVR)や、誤答に罰則を課す仕組みは、モデルを賢く・安全にする手段として広く採用されている。ただし8月4日に一連の研究が、その裏側にある予期しない代償を浮き彫りにした。

まず、RLVRには「検証器が誘導するサポートの変形」と呼ばれる現象が起き得るという指摘がある。数学の強化学習で現在の目標は改善されても、後で別の目標に取り組む際、成功する軌跡がサンプルしにくくなり、強化学習をかけ直しにくくなるという。具体例では、Qwen3-8Bで指示追従のRLVRを行うとpass@1(1回の試行の成功率)は6.5ポイント上がる一方、best@32(32回試した最良成績)は9.8ポイント下がるなど、単発の性能と複数回の多様性とが逆行する。

次に、誤答に罰則を与え・棄権を許す採点ルール(正解+1、誤答−λ、棄権0)の落とし穴。理論上は正答確率が閾値を超えたときだけ答えるのが合理的だが、KL制約付きの勾配学習では「棄権」という離散アクションが報酬の勾配と、モデルを元に引き戻すアンカーの両方を同じタイミングで押し下げてしまい、両者が一緒に失われてモデルが「すべてを棄権」へ向かってしまう。報酬の平均が学習時間に対して1/tでゼロに近づくため、グラフ上は改善に見えるのに、実際のカバレッジが崩壊する。グループ正規化も、設計した罰則を黙って実質的な罰則「1」に置き換え、学習される閾値を変えてしまうという。

安全ガードをRLで訓練する場合も同様のジレンマがある。危害を取り逃さないことと、無害な入力を拒否しないという相反する目標を同時に扱う研究では、過剰拒否は改善(22.4%→12.8%)したものの、敵対的攻撃に対する過少拒否が密かに悪化(0.27→0.33)していた。一方で、訓練前に「学習効果のない死んだデータ領域」を検出する指標(C-LIM)を導入することで、同じ領域の学習インパクトを0.733から0.80に持ち上げられたという。強化学習は強力だが、何を最適化しているかを注意深く監視しないと、別の場所で静かに脆さが育っているかもしれない。

安いオープンモデルでも「LLMジャッジ」はフロンティア級

数学証明のような採点は、フロンティアモデルに頼るとコストがかさむ。ある研究は、安価なオープンモデル(GPT-OSS 120B、DeepSeek-V4 Flash、Gemma-4 31B)に候補証明・模範証明・採点ルーブリックを与えれば、人間の合否判定とClaude Opus 4.7やGemini 3.1 Proと統計的に区別がつかない程度に一致し、コストは最大100分の1で済むと報告している。3モデルの多数決はフロンティアに並ぶものの、最も強い単体モデルを上回ることはなかった。最も精度が高かったのは「3者全員が合格と判定した場合のみ合格」という全会一致ルールで、実用上のデフォルトとして推奨されている。採点の負担を下げつつ精度を保つ実務的な指針と言える。

コーディングエージェントの脆さと、エージェントを監視する研究

コーディングエージェントの評価は、多くが「エージェントが静的なコードベースに単独で取り組む」前提で作られている。しかし実際の開発では、エージェントが作業中にユーザーがコードを書き換えるのが普通だ(SWE-chatの分析では59%のセッションにユーザーによる変更が含まれる)。新ベンチマーク「SWE-Touch」は、タスクの完了と競合するような小さなユーザー編集を実行中に注入し、エージェントがどう振る舞うかを検証した。その結果、この対抗編集で解決率が平均7.7ポイント下がり、モデルのランキングまで変わった。失敗例の63.3%は、ユーザーが残した競合コードをそのまま放置していた。堅牢だったのはClaude Opus 4.8とGPT 5.5のみで、自律ベンチマークで好成績のオープン系モデルは最大16.5ポイントも落ち込んだという。人間の介入を前提にしない評価の限界を示す結果と言える。

エージェントの内部を監視・補強する研究も進む。LLMのツール誤用(不要な呼び出し、必要な呼び出しの欠落など)をわずか1〜2個のMLPニューロンでROC-AUC 0.90〜1.00で検出し、選択的に是正する枠組みが報告された。また、会話型エージェントの長期記憶を5つの戦略(コンテキスト内、外部KV、グラフ、要約、Web補強)で同一条件比較したベンチマークでは、外部KVストアが全指標で優位だった。メタ決定(直接答える、分割、ツール呼び出し、委譲、検証のいずれを取るか)を比較するベンチマークも登場し、エージェント基盤の設計論が急速に整備されつつある。

日本の現場から:デザイン固定、ガバナンス、並列運用

国内のエンジニアリング記事からも実践知見が相次いだ。AIエージェントにWebツールを量産させると配色や余白が毎回ブレる問題に対し、600ツール超を5言語で運用する事例ではJSONによるUI定義に始まり、最終的に「Excelの表」に行き着くまでの変遷が整理された。同じくAIがコードベースで扱いやすいデザインシステムを念頭に、ADR(Architecture Decision Record)になぞらえたDDR(Design Decision Record)としてデザインの意思決定を蓄積する試みも紹介されている。

運用面では、Claude Codeを5セッション並行で走らせた結果、作業は速くなったものの「誰がどこを触っているか」を見失って3種類の事故に至った反省談や、定時タスクが承認待ちで止まり続け8日間ハマった末に「タスク側の権限モード1つ」で解決した記録が共有された。ガバナンスについては、Human Gate(人の承認)・照合・修復・再開の流れをRuntime化したRPR(Responsibility Pathway Runtime)や、美容医療のAI相談でLLMにすべてを任せない範囲分担とガードレールを設けた事例が現場目線で語られている。自動パイプラインの安定性に関しても、スケジューラが正常でも入力キューが空けば止まるという前提で、公開時刻より前に在庫を監視するバックプレッシャー設計が障害分析の形でまとめられている。AIを単なる便利ツールから、監視と運用設計を伴うシステムとして扱う視座が、現場に定着しつつあるようだ。