Mistral Medium 3.5（128B）を4枚のRTX 3080で実行 — コミュニティのチャレンジ

Redditのr/LocalLLaMAコミュニティで、Mistral Medium 3.5（128B）とQwen 3.5（122B A10B）を4枚のRTX 3080（20GB）で動かす試みが話題になっています。

投稿者はllama-benchを使ってIQ4_XS量子化モデルをlayer splitで4枚のGPUに分散配置。合計80GBのVRAMで128Bクラスのモデルを推論できることを実証しました。RTX 3080は中古市場で比較的安価に入手できるため、大規模モデルの個人運用において現実的な選択肢として注目が集まっています。

コンシューマー向けGPUの限界に挑戦するこうした取り組みは、ローカルLLMコミュニティの活気を象徴していると言えそうです。

openrouter/owl-alphaの正体がMeituan LongCatと判明

OpenRouterでステルスモデルとして運用されていた「owl-alpha」の正体が、中国のMeituan（美団）が開発した「LongCat」であることが判明しました。

RedditユーザーがLLMボードルームアプリで動きを検知し、@OpenRouterのステルスモデルと@Meituan_LongCatの関係を突き止めました。OpenRouterでは開発元を匿名のままベンチマーク運用するケースが増えており、コミュニティによる「正体特定」の動きも活発化しています。

Meituanは中国有数のテック企業であり、LLM分野への本格参入を示唆する動きとして注目されます。

CursorにCVSS 9.9の致命的脆弱性 — AIコーディングツールのセキュリティ見直しへ

AIコーディングエディタCursorに、CVSSスコア9.9という最高クラスの脆弱性が報告されました。git cloneするだけでPCが乗っ取られる可能性があるという深刻な内容です。

この問題を受け、QiitaではClaude Codeを含むAIコーディングツールのセキュリティ運用について見直す記事が公開されました。主な対策として、サンドボックス環境の利用、権限の最小化、機密情報のアクセス制限、更新の迅速な適用、監査ログの活用の5項目が推奨されています。

AIコーディングツールの普及に伴い、ツール自身が攻撃ベクトルになるリスクへの意識が高まっています。開発者は便利さと引き換えにセキュリティを軽視しがちですが、今回の事件はバランスの重要性を改めて浮き彫りにしました。

Google DeepMind、フリートスケールRLでロボットポリシーを継続改善

Google DeepMindが「Learning While Deploying（LWD）」と題する論文をHugging Face Daily Papersで公開しました。フリートスケールのオフライン・トゥ・オンライン強化学習フレームワークで、Vision-Language-Action（VLA）モデルをデプロイしながら継続的に改善する手法です。

従来のオフライン事前学習だけでは、現実世界の分布シフトやロングテールな失敗ケースに対応しきれないという課題に対し、デプロイ中に収集したデータを使ってオンライン強化学習を行うことで解決を図ります。

実際のロボットフリート（複数台のロボット群）で検証された点が重要で、ジェネラリストロボットポリシーの実用化に向けた大きな一歩と評価できます。

分散LLM推論のエンジニアリング制約を深掘り

Hacker Newsで「The Engineering Constraints of Distributed LLM Inference over the Open Internet」という記事が話題を呼んでいます。

オープンインターネット上でLLMの分散推論を行う際の技術的制約を体系的に整理した内容で、ネットワーク遅延、帯域幅の制限、ノード間の同期コストなど、分散推論を現実的なものにするための課題を分析しています。

これと関連して、arXivにも「Cloud Is Closer Than It Appears」という論文が登場。クラウドベースの推論はリアルタイム制御に不向きという前提に再考を促すもので、高スループットな計算リソースを適切にプロビジョニングすれば、クラウド推論でもレイテンシ要件を満たせる可能性を示しています。

衛星上で450MパラメータVLMが山火事検出 — エッジAIの最前線

r/LocalLLaMAで、フロンティアモデルを衛星で動かせない課題に対する実用的なアプローチが紹介されました。450MパラメータのVision-Language Model（LFM2.5-VL）をSentinel-2衛星データと組み合わせ、エンドツーエンドの山火事検出パイプラインを構築したものです。

エッジデバイスでの小型VLM活用は、通信遅延が許容されない用途での重要性を増しています。地球観測から災害対応まで、現場で推論できるモデルのニーズは今後さらに高まると予想されます。

その他の注目論文

  • MoE推測的デコーディングの適応的検証 — Mixture-of-Expertsモデル向けのspeculative decodingを最適化する手法。ドラフト木の成長に伴う問題に対処する新しいアプローチを提案（arXiv:2605.00342）
  • VLMのハルシネーション対策 — オンライン自己キャリブレーションにより、より強いモデルの教師なしに幻覚を軽減する手法（arXiv:2605.00323）
  • 低ビットLLM量子化の改善 — Activation Residual Hessian Quantization（ARHQ）により、低ビット量子化での誤差伝播を軽減（arXiv:2605.00140）