2026年8月29日に収集した海外AIニュースから、注目トピックを整理します。今回の柱は、NVIDIA DGX Spark 2台のクラスタでQwen3.8-Flash-Nextを高速運用した実測報告、ISTA-DASLabによる新手法GSQ+RCOを適用したQwen3.8-27B量子化GGUFの公開、NVIDIAのSWEエージェント向け訓練データセット、そしてHugging Face Daily Papersの研究ピックアップです。コミュニティの論調も簡単に触れます。

DGX Spark×2でQwen3.8-Flash-Nextが181 tok/s──鍵は47.7GiBのn-gram表をNVMeからmmapする工夫

r/LocalLLaMAで、2台のNVIDIA DGX Spark(GB10 Grace Blackwell、各128GBユニファイドメモリ、20コアARM)をクラスタ化し、Qwen3.8-Flash-Nextで合計181 tok/sを達成したという詳細な報告が共有されました(執筆中に最高195 tok/sまで到達)。シングルストリームのデコードは30〜50 tok/sで、181は約9つの同時エージェントセッションがエンジンを共有したときの合計スループットです。

ハードウェア構成は、2台のDGX SparkをConnectX-7ケーブルで直結し、NCCL over RDMA(RoCE、200Gb)でTP=2分散。NCCLログで「Using network IB」を確認することを著者は推奨しています。TCPフォールバックがサイレントに発生して速度が半減するためです。

最大の工夫はモデル側にあります。Qwen3.8-Flash-Nextは320M行のn-gram埋め込み表(PLEテーブル、FP8で47.7GiB)をトークンごとに参照しますが、実際に触るのは1トークンあたり16行(約2.5KB)だけ。そこでこの表をメモリに載せずNVMeから直接mmapすることで、ノードあたりのウェイトを65GiBから41GiBに削減しました。さらにmadvise(MADV_RANDOM)でカーネルの先読みを止めないと、ハッシュ分散されたルックアップが原因で読み込み増幅が約30倍になり、405Kトークンのプリフィル1回で603GBもディスクから読んでしまったとのこと。修正後は19GBに収まっています。空いたメモリはKVキャッシュに回し、プールは289万トークン(コンテキスト5.5本分)に拡大しました。

ソフトウェアはvLLM(公式day-0イメージ)で、prefix cachingによる99%のヒット率が「実運用で最も効く」とのこと。GB10/SM121ではCUDAグラフがクラッシュするため--enforce-eager必須など、ローカル運用のノウハウが詰まった報告になっています。コンテキスト長もネイティブの262KからYaRN係数2.0で512Kへ引き伸ばし、487K深度でneedle検証済みです。

ISTA-DASLabが「GSQ+RCO」量子化GGUFを公開──2.75bpwでzero-shot平均がBF16超え

同じくr/LocalLLaMAで、ISTA Deep Algorithms and Systems LabがQwen3.8-27Bを新手法で量子化したGGUF 3点(2.50 / 2.75 / 3.00 bpw、8.4〜10.1GB)をリリースしました。_llama.cpp、Ollama、LM Studioでそのまま動作します。

2つの手法を組み合わせています。**GSQ(Gumbel-Softmax Quantization)**はポストトレーニングのスカラー量子化で、グリッド割り当てとスケールを共同学習し、2〜3ビット領域でスカラー量子化とベクトル量子化の品質差の大半を埋めるといいます。**RCO(Riemannian Constrained Optimization)**は、厳格なサイズ予算の下でテンソルごとに量子化タイプを割り当てるもので、タスク損失に対する勾配降下で直接求め、条件ごとの手調整を不要にします。均一な量子化が全テンソルに同じ精度を与えるのに対し、RCOは「精度が実際に効く場所」を見つけて割り振る構図です。

結果は強力です。3.00 bpw(10.1GB)ではAIME25でベースモデルと同じ100.00、GPQA-DiamondとLiveCodeBench v6も1ポイント以内に迫ります。2.75 bpw(9.3GB)に至ってはzero-shot平均がBF16本体を上回りました(75.70対74.34)。同サイズ約8.4GBの比較では、Unsloth Dynamic量子化比でAIME25が+10.0という数値を出しています。ラボとしてはQwen以外のモデルファミリーへの展開も計画中とのことです。

NVIDIAがSWEエージェント向け訓練データ「Nemotron-SFT-SWE-v3.5」を公開

NVIDIAがHugging Faceで、ソフトウェアエンジニアリング(SWE)タスク向けの指示チューニングデータセット「Nemotron-SFT-SWE-v3.5」を公開しました。シードタスクはソースコード、テスト、ドキュメント、設定など複数ファイルにまたがる変更を要求する実務的な内容で、OpenCodeハーネスで収集したエージェント軌跡を含みます。規模は5,115レコード・1.9GiB。形式はMarkdown、JSON、Dockerfile、パッチファイルのほか、Python、TypeScript、JavaScript、Java、Go、Rustのコードです。

用途としては、実際のissue文を解釈して多段階のツール利用を計画し、コードベースを走査して修正を実装するような自律SWEエージェントのSFTや蒸留が想定されています。エージェントポリシーのベンチマーク・デバッグにも使えるとしています。ライセンスはCC BY 4.0ですが、カードには商用利用向け(for commercial uses only)と明記されており、利用前に条件を確認しておく方がよさそうです。

研究ピックアップ: リライティング可能な3D生成「Luce」、小型モデルの失敗を教師にする「CritICL」

Hugging Face Daily Papersから2本。Luceは、単一画像からリライティング可能な3Dアセットを生成する研究です。3D表現として、ジオメトリとPBRマテリアル(アルベド、メタリック・ラフネス、法線)をボクセル化したマルチモーダルGaussianクラウドに統合。VAEでこれを圧縮したマテリアルawareな潜在空間を、rectified-flowトランスフォーマーが単一画像から生成し、リライティング可能なPBR Gaussiansとテクスチャ付きメッシュにデコードします。標準レンダリングパイプラインにそのまま載せられるPBRモダリティを持つ点が、実用上の意味を持つアプローチです。

CritICLは、推論時スケーリングの効率問題に取り組む研究です。既存手法が反復生成や外部検証に頼るのに対し、CritICLは「同じファミリー内ではLLMの失敗モードがモデルスケールをまたいで構造化されたパターンを持つ」という洞察に基づき、弱いモデルの失敗例を批評(critique)付きin-context例として推論時に活用します。入力ごとに失敗モードを予測して批評を検索するdynamic版と、グローバルな失敗プロファイルを使うstatic版の2変種があります。反復生成なしで推論性能を上げる方向性として注目できます。

コミュニティの論調: 「AIはより多くのエンジニアリング規律を求める」

エッセイ系では、Honeycomb共同創業者のCharity Majorsが「AI demands more engineering discipline. Not less」と題した記事を公開し、AIの導入はエンジニアリングの規律を減らすのではなく増やす要求だという論を展開しています。またThe Atlanticが「The AI Backlash Gets Professional」を掲載。AI反発が感情論から専門職的な運動へと変わっていく様子を、取り替え不能さを主張する気候活動家たちの文脈から描いています。

ローカル運用の現場でもQwen3.8系の話題が続いています。「4×RTX 3090でQwen 3.8 Flash Nextを動かすか、27Bに留まるか」という相談では、27Bの優柔不断さ(解決目前で何時間も検証を繰り返す)への不満と、Flash Nextの4ビット量子化がn-gram表込みでSSDに収まる見込みだがアーキテクチャ対応がまだ発展途上という判断が交わされていました。DGX Sparkクラスタの報告と合わせると、「Flash Nextをどう載せるか」が当面のローカルLLMの熱源になりそうです。