拡散ヘッドでLLMの推論を変える「Orthrus」、Qwen 3.5/3.6とGemma 4に対応へ

拡散モデル（Diffusion Model）の仕組みをLLMのデコーダとして組み込む「Orthrus」アーキテクチャが、Qwen 3.5、Qwen 3.6、Gemma 4に対応するモデルを間もなくリリースする予定であることが分かった。

RedditのLocalLLaMAコミュニティで報告された情報によると、開発チームはテストを完了し、リリースパイプラインの準備を進めている。モデルチェックポイントとともに、エンドツーエンドのトレーニングおよび評価コードもオープンソース化される予定だ。HuggingFaceには既にQwen3-8Bベースのプロトタイプが公開されている。

Orthrusは、通常の自己回帰型（次トークンを予測する方式）ではなく、拡散プロセスでトークン列を生成するアプローチをとる。これにより、並列生成による高速化や、グローバルな文脈考慮が可能になるとされる。ただし、現時点ではllama.cppなどの一般的な推論エンジンでのサポートはまだない模様だ。

DeepSeekにビジョン機能が追加か？画像理解モデルのリリースを示唆

DeepSeekのアプリケーションに新たにビジョンモードが追加されたとの報告がRedditで話題を呼んでいる。同社はこれまでテキスト専用モデルで知られてきたが、ユーザーが画像をアップロードして内容を説明させる機能を確認したという。

報告者は「OCR的なテキスト抽出ではなく、テキストのない画像でも内容を説明できた」としており、本格的な画像理解機能の実装を示唆している。DeepSeekからの公式アナウンスはまだなく、モデルの詳細（パラメータ数やアーキテクチャ）は不明だが、同社がマルチモーダル分野に本格参入する可能性を示唆する動きとして注目される。

深セン華強北で「96GB RTX 5090」が販売中、価格は約8,200ドル

中国・深センの華強北電子市場で、RTX 5090のVRAMを96GBに改造した製品が販売されていることが分かった。

Redditユーザーが現地を訪問して確認したところ、RTX 5090（36,000元）に96GBのVRAM搭載工事（20,000元）を合わせて約8,200ドル。正規品のRTX 6000 Blackwell（約11,000ドル）と比較すると安価だが、保証がないことを考慮すると判断が分かれる。改造には約1週間のリードタイムが必要とされる。

ローカルLLMコミュニティでは、大規模モデルの実行に必要なVRAMを低コストで確保する手段として関心が集まっている。ただし、改造品の信頼性や寿命には懸念も残る。

AIデータセンターがバッテリー市場を急成長させる

Washington Postの報道によると、AIデータセンターの爆発的な電力需要が、新たなバッテリー市場を急速に拡大させている。

AIワークロードは従来のデータセンターよりもはるかに多くの電力を消費し、特にGPU集約的な処理では瞬間的な電力変動が大きい。これにより、データセンター向けの大容量・高出力バッテリーシステムの需要が急増しており、電力貯蔵とピーク時の安定供給を目的としたバッテリー市場が急速に拡大している。

クリーンエネルギートランジションとAIインフラ拡大が交差する領域として、投資家や政策立案者にも影響が及んでいる。

コーディングエージェントは論文のSOTAを超えられるか ― NatureBench

Qiitaで発表された興味深い検証記事では、コーディングエージェントに「この論文の手法を実装して、報告されている精度を超えてみて」と依頼した場合、どこまでできるかが検証された。

再現（Reproduction）であればGitHubのREADME通りに動かせば済むが、この検証はさらに踏み込み、論文に記載された最高精度（SOTA）をエージェント自身が上回れるかに焦点を当てている。コーディングエージェントの能力を単なるコード生成の枠を超えて、研究的創発性の領域まで問う試みとして、エンジニアリング界隈で議論を呼んでいる。

PreFlight：ASTベースでAIコードの「ドリフト」を検出するデーモン

Hacker Newsで「PreFlight」というローカルデーモンが発表された。AST（抽象構文木）をバックグラウンドで監視し、AIが生成したコードの意図しない変更（ドリフト）を検出する仕組みだ。

AIコーディングツールの普及に伴い、人間が意図していない変更がコードベースに紛れ込むリスクが高まっている。PreFlightは、ASTレベルでの差分検出により、テストでは拾いきれない「動作はするが意図と異なる」変更を早期に発見することを目指している。