MiniMaxが新アテンション「MSA」発表——100万トークンをネイティブにスケール

MiniMaxが独自の疎近接アーキテクチャ「MiniMax Sparse Attention（MSA）」を発表した。従来の二次関数的な計算複雑性を回避し、オペレーターレベルでメモリアクセスパターンを全面的に再構築している。

MSAは、一般的なスパース近似がリコール精度を犠牲にするのに対し、「KV outer gather Q」という手法を採用。KVブロックを外側のループとして扱い、一致するクエリを集約することで、ハードウェアのメモリ読み出しを厳密に連続させ、各ブロックのフェッチを1回に抑える。

パフォーマンス面では、Flash-Sparse-Attentionと比較して4倍の実行速度、1Mコンテキストでのパートークンの計算量を従来モデルの1/20に削減。プリフィル段階で9倍、デコード段階で15倍の高速化を達成しているという。

また、フロンティアクラスのコーディング性能、100万トークンのコンテキスト、ネイティブのマルチモダリティをすべて備えた初のオープンウェイトモデルであるとも主張している。長時間のエージェント実行を支えるハードウェアレベルのデータ転送最適化とメモリレイアウト設計も特徴として挙げられている。

Microsoftが自社開発のAIモデル7種を一斉発表

Microsoftが、自社で開発した7種類のAIモデル群「Microsoft AI Models」を発表した。画像編集や音声認識など幅広い用途をカバーする。

ITmediaの報道によると、これらのモデルはMicrosoftが独自に開発したものであり、外部モデルの単なるラッパーではない点が特徴としている。画像生成・編集、音声認識、自然言語処理など、実用的なタスクに対応する複数のモデルが含まれている。

Microsoft Execution Containers——エージェント用のカスタマイズ可能な分離環境

同時にMicrosoftは、AIエージェントのためのカスタマイズ可能な分離実行環境「Microsoft Execution Containers（MXC）」も発表した。

エージェントが自律的にコードを実行したり外部システムにアクセスしたりする際、セキュリティと安定性を担保するためのサンドボックス環境として機能する。OpenClawなどのエージェントフレームワークも動作するという。

エージェントの安全性と再現性を確保するためのインフラ整備が進んでおり、エンタープライズでのエージェント導入に向けた重要な一歩と言える。

Anthropicが「AIネイティブなエンジニアリング組織」の運営方法を公開

Anthropicが、Claudeブログで「Running an AI-native engineering org」と題する記事を公開した。AIを日常的に活用するエンジニアリング組織をどう設計・運営するかについて、同社の実践に基づく知見をまとめている。

Hacker Newsでも注目を集めており、AIネイティブな開発組織のあり方は、AIツールの普及に伴って多くの企業が直面する課題となっている。

LiteHarness——複数エージェントSDKを統一インターフェースで扱うライブラリ

LiteHarnessは、Claude Agent、OpenAI Agent、Pi AIなど複数のエージェントSDKを単一のインターフェースで扱うためのオープンソースライブラリだ。

エージェントのハーネス（実行基盤）が断片化している課題に対し、query()という1つの関数で異なるエージェントフレームワークを切り替えられる仕組みを提供する。モデルやハーネスの選択をオプションで指定するだけで、Claude Agent、OpenAI Agents、Pi AIの間をシームレスに切り替えられる。

エージェント開発のエコシステムが多様化する中で、こうした統一抽象化レイヤーの需要は高まるとみられる。

研究ピックアップ：LLMに「睡眠」を取り入れる試み

Hugging Face Daily Papersで「Language Models Need Sleep」という論文が取り上げられた。LLMの継続学習において、人間の睡眠に似た記憶の統合プロセスを導入するパラダイムを提案している。

具体的には、ナレッジシーディングによる記憶の定着と、強化学習によって駆動される自己改善の「ドリーミング」プロセスの2段階で構成される。LLMが新しい知識を継続的に学習しつつ、既存の能力を維持するためのアプローチとして興味深い。

研究ピックアップ：分散型インストラクチューニング「MERIT」

同じくHugging Face Daily Papersで、NAVER AIによる「MERIT」が紹介された。大規模なインストラクチューニングにおける異種タスク間の勾配干渉（負の転移）を解決する手法だ。

勾配干渉をPCA軸に沿ってデータセットを分割し、各パーティションを独立してファインチューニングした後、トークン重み付き平均で一度だけマージする。Qwen2.5-VL-3Bでの実験では、8ベンチマーク平均が54.3から57.0に向上。7Bパラメータ・160万サンプルのスケールでも中央集権的な合同学習に匹敵する性能を達成している。