DeepSeek V4 ProがGPT-5.2に肉薄 — エージェントベンチマークで17倍のコスト優位性

RedditのLocalLLaMAコミュニティで、DeepSeek V4 Proがエージェントベンチマーク「FoodTruck Bench」でGPT-5.2と同等の成績を叩き出したことが話題になっている。FoodTruck Benchは、モデルがフードトラックの経営を34種類のツールを使って30日間自律的に行うという過酷なテストだ。

結果は驚くべきものだった。DeepSeek V4 Proは全体で4位（Opus 4.6、GPT-5.2、Grok 4.3に次ぐ）に入り、初めて中国製モデルがフロンティア層に到達した。GPT-5.2が2月中旬に記録したスコアに10週遅れで追いつき、中米間のAI性能ギャップが急速に縮まっていることを示している。

価格差はさらに劇的だ。GPT-5.2が入力$1.75/M・出力$14/Mであるのに対し、DeepSeek V4 Proは入力$0.435/M・出力$0.87/Mと、同じエージェントワークロードで約17倍安い。キャッシュ読み込みの割引まで用意されており、コスト効率ではGemma 4 31Bに次ぐ2位となっている。

また、Xiaomi MiMo v2.5 Proも同じベンチマークで6位に入り、中国モデルが2つトップ6にランクインする結果となった。

First Chinese model to land in the frontier tier on our benchmark. Tied with Grok 4.3 Latest on outcome, within 3% of GPT-5.2's median.

Qwen3.6-27B FP8がRTX 5000 PRO 48GBで200Kコンテキストを80 TPSで稼働

同じくLocalLLaMAで、RTX 5000 PRO 48GBを使ってQwen3.6-27Bの公式FP8量子化版を実行したユーザーの報告が注目を集めている。BF16 KVキャッシュで200Kトークンのコンテキストを確保しつつ、コーディング時には60〜90 TPSを記録したという。

ポイントは「ほぼ量子化なし」に近い構成にある。FP8による本体量子化とBlackwellハードウェアアクセラレーションを活用しつつ、KVキャッシュはBF16のまま保持するため、量子化誤差の蓄積が最小限に抑えられている。長時間のエージェントセッションでも早期コンパクションや無限ループが起きにくいという。

構成はvLLM 0.20.1 + CUDA 12.9で、MTP（Multi-Token Prediction）を2トークンに設定。GPU メモリ利用率97.5%まで引き上げている。

I think we might have an answer to all those "what do I buy for $10k?" posts. A pro5k, 64GB RAM, a decent CPU/mobo, and it will run the FP8 quant of 27B.

MTP（Multi-Token Prediction）がllama.cppに到来 — 対応モデルの現状

Multi-Token Prediction（MTP）は、一度に複数のトークンを予測することで推論速度を向上させる技術だ。vLLM等ですでに対応が進んでいるが、llama.cppにもまもなく導入される見込みとなった。

対応予定のモデル一覧が共有されており、DeepSeek V3/V3.2/V3.4、Qwen 3.5、GLM 4.5+、MiniMax 2.5+、Step 3.5 Flash、MiMo v2+などが挙げられている。現在はHuggingFaceのウェイトをダウンロードしてGGUFに変換する必要がある段階だが、ローカル推論環境でのMTP活用が本格化しそうだ。

米GUARD Act — AIチャットボットに年齢認証義務化が前進

米上院司法委員会が「GUARD Act」を全会一致で本会議に送った。AIチャットボットに対する年齢認証義務化を求める法案で、児童の安全を名目に掲げつつ、実質的にはAIプラットフォームへのアクセス制御を強化する内容となっている。

LocalLLaMAコミュニティでは「プライバシー侵害の懸念が強い」「EU方式の規制を米国が追随している」との批判的な意見が多く、ローカルAIの価値がさらに高まるとの見方も出ている。

Retroguard — 暗号学的に検証可能なAIガードレール

Hacker NewsでRetroguardという新サービスが紹介された。暗号学的に安全で検証可能な堅牢性を持つAIガードレールを提供するという。ドロップイン統合と成果報酬型の料金体系が特徴で、AIシステムの出力制御において、従来のルールベースやヒューリスティックな手法とは異なるアプローチを提示している。

Ψ-RAG — 階層的抽象ツリーによる効率的RAG

Hugging Face Daily Papersで発表されたΨ-RAGは、階層的抽象ツリーインデックスを採用した新しいRAGフレームワークだ。対数時間での効率的かつ精密な検索を実現し、マルチ粒度のエージェント型レトリバーとハイブリッド検索パイプラインを組み合わせることで、多様なユーザーリクエストに対応する設計となっている。

複雑な情報検索シナリオでの性能向上を狙った研究で、RAGの構造自体を見直すアプローチとして注目される。

Sources: