本日9月4日のAIニュースまとめ。AIデータセンター開発のCrusoeが約30億ドルを調達し、評価額が300億ドルに達したと報じられました。研究・OSS系では、完全オープンのトレーニングレシピ付きで学習した画像生成・編集モデル「LLaDA-Image」や、コーディングエージェントの現実的な評価を目指す「RealSWE」ベンチマークが公開。ローカルLLM界隈では、RTX 3090×2とDDR4という構成でQwen3.8-Flash-Nextを高速化する検証の続報が話題です。

Crusoeが約30億ドルを調達──Jane Streetとの130億ドル契約を背景に評価額300億ドルへ

TechCrunchの報道によると、AIデータセンター開発を手がけるCrusoeが約30億ドルを調達し、企業評価額が300億ドルに達したという。このラウンドは、同社がJane Streetとの間で130億ドル規模の契約を確保したと報じられたことを受けてまとまったとされる。

生成AIの計算需要を背景に、データセンターへの投資は拡大を続けている。本件はあくまで報道ベースの情報だが、推論需要の伸びを見込んだインフラ投資が、大手金融機関との大型契約を引き金に加速している様子がうかがえる。GPUを大量に搭載するデータセンターが金融市場でどう評価されるかは、今後の業界全体の設備投資の潮流を占う一つの材料になりそうだ。

完全オープンのレシピで強い画像生成を──「LLaDA-Image」

Hugging Face Daily Papersで話題となった「LLaDA-Image」は、完全にオープンなトレーニングレシピで構築された60億パラメータの画像生成・編集モデルファミリだ。

ファミリは2つの構成から成る。高品質なテキストから画像への生成と指示による編集を担う50ステップの「Base」モデルと、4ステップの蒸留で高速生成・編集を実現する「LLaDA-Image-Turbo」だ。いずれもテキストからの生成、VQ条件付き生成、参照画像を使った編集に加え、中国語と英語のテキストレンダリング(画像内への文字描画)に対応する。

高性能モデルが各社の閉じたサービスとして提供されがちな画像生成分野において、レシピ込みで再現可能なモデルファミリが公開されたことの意義は小さくない。学習手法が開かれていることは研究の土台としてだけでなく、自前環境での運用や派生モデルの開発にも効く。画像内に文字を描ける点も、実務利用への壁を下げる要素といえる。

RTX 3090×2とDDR4でFlash-Nextが37-41トークン/秒──エキスパートキャッシュとMTPの積み重ね

Reddit r/LocalLLaMAで、2枚のRTX 3090とDDR4メモリという手頃な構成でQwen3.8-Flash-Nextを動かす検証の続報が投稿された。前回の投稿で25〜29トークン/秒だったデコード速度が、最適化を重ねた結果37〜41トークン/秒に到達したという。当ブログでもこれまでDGX SparkやMacなどでの同モデルの運用検証を紹介してきたが、旧世代GPUでも最適化次第で実用速度に届くことを示す内容だ。

改善に寄与したのは主に3点だ。まず量子化をUD-Q6_K_XLからUD-Q4_K_XLに下げ、浮いたVRAMでエキスパートキャッシュのスロットを135から188に増やしたことで、キャッシュヒット率が84〜85%から90〜92%へ向上した。次に、MTP(マルチトークン予測)のドラフトヘッドをキャッシュと併用し、思考テキストで50〜58%、コード出力では94%の受け入れ率を達成。コード出力時には49トークン/秒に達した。さらに、重みの読み込みをページフォルト経由からファイル直接読み込みに変え、起動までの時間を13分から2分に短縮した。

検証環境は261kコンテキスト全文脈・f16のKVキャッシュで、48層あるエキスパートをすべてホストRAMに置く構成。131kトークンの深さでも18〜20トークン/秒を維持するという。投稿者はRAMが78℃に達するとメモリコントローラーがサーマルスロットルして減速するというハードウェア側の問題にも遭遇し、ファン追加で44〜57℃に保った結果、長時間実行の平均速度が10〜15トークン/秒から24.6トークン/秒に改善したと報告している。検証に使ったブランチも公開されており、似た構成で運用したいユーザーには参考になる情報が多い。

コーディングエージェントの「現実的な依頼」への耐性を測る「RealSWE」

Hugging Face Daily Papersで公開された「RealSWE」は、コーディングエージェントを現実的なユーザーリクエストのもとで評価するベンチマークおよびフレームワークだ。

381のマルチバリアント・タスクファミリーで構成され、各ファミリーは同じタスクと正解パッチを保ちながら、情報の構成と言語スタイルだけを変えている。曖昧な依頼文や不完全な情報といった「現実の依頼のゆらぎ」に対してエージェントがどこまで頑健かを、タスク自体の難しさから分離して測れる設計だ。

コーディングエージェントのベンチマークは、整備されたissueや明確な仕様を前提とするものが少なくない。実際の開発現場では、依頼が曖昧だったり必要な情報が揃っていなかったりすることの方が多い。同一タスクで表現だけを変えたバリアントを用意してスコアの変動を見るこのアプローチは、ベンチマークスコアと実務での有用性のギャップを埋める方向性として注目できる。

「壊れるはず」だった反復部も4ビットで大丈夫──ハイブリッドLLMのNVFP4 W4A4検証

Gated DeltaNet(GDN)のような反復構造と通常のアテンションを組み合わせたハイブリッドLLMでは、「反復側は4ビット量子化に耐えない」というのがコミュニティの想定だった。実際、Qwen3.8-27Bの初期の量子化版ではGDNを8ビットや16ビットのまま保つのが主流だったという。

ところが公開された検証では、496ある線形層のすべてをNVFP4(W4A4)に量子化──GDNとそのゲート射影を含めて──しても、較正のみの事後量子化で主要ベンチマーク(MMLU-Pro、GSM8K、AIME'25、GPQA-Diamond、LiveCodeBench、64KまでのRULER)でBF16とシードノイズの範囲内で一致した。モデルはBF16比で約2.9分の1のサイズになり、プレフィルは部分量子化版より14〜19%高速化したという。

興味深いのは「なぜ壊れないのか」の分析だ。「壊れやすい」とされたdecay/writeゲートは、softplus/sigmoidのパラメータ化によってGEMM誤差を約11%から出力では約2%に抑える、実際には最も感度の低い層だった。また量子化ノイズは反復状態に蓄積しない。デルタルールが新しいキー方向に沿って状態を上書きするため、注入された誤差は数百トークン以内に忘れられ、32Kのパープレキシティ差はむしろ文脈位置とともに縮小するという。配布チェックポイントには、GDN射影を単一GEMMに融合するカーネルが較正済みのNVFP4を黙って誤スケールする問題への修正も反映済みだ。ハイブリッド構成のモデルを省メモリで動かしたいユーザーには実用的な知見が詰まった検証といえる。

100億ベクトル規模の検索ベンチマーク「Q-FineWeb-10B」

QdrantがHugging Faceで公開した「Q-FineWeb-10B」は、100億ベクトル規模の検索ベンチマークだ。FineWebの約100億文書に対して多言語埋め込みモデル「gte-multilingual-base」による密ベクトルと疎ベクトルを付与し、約12万件のMS MARCOクエリに対する厳密な総当たりによる正解(トップ1000)を同梱する。

テキストフィルタや構造化フィルタ(言語スコア・日付範囲・ダンプ集合)を伴うクエリセットも含まれており、密検索・疎検索・ハイブリッド検索に加えて、ベクトルデータベースの取り込みとインデックス構築、ANNアルゴリズム、分散検索システムの大規模評価に使える設計だ。

100万ベクトル級のベンチマークでは見えない、10億規模ならではのコストとリコールのトレードオフを可視化できる点が意義といえる。RAGの普及でベクトル検索の規模が膨らむ中、ウェブスケールでの実力比較の物差しになりそうだ。