Liquid AIがエッジ向け新モデル「LFM2.5-8B-A1B」をリリース — 128KコンテキストでノートPC動作

Liquid AIが、エッジデバイス向けの新モデル「LFM2.5-8B-A1B」をリリースした。従来モデル「LFM2-8B-A1B」をベースに、コンテキストウィンドウを128Kトークンに拡大し、事前学習データ量を12Tトークンから38Tトークンに増量。さらに大規模な強化学習（RL）を適用し、語彙サイズも2倍に拡張して非ラテン言語のトークナイズ精度を向上させた。

RedditのLocalLLaMAコミュニティでは、エントリー向けノートPCで快適に動作すると報告されており、ツール呼び出しのチェーンや複雑なタスクの実行をローカル環境でこなせるという。Hugging FaceではGGUF形式でも配布されており、llama.cppでの実行も可能だ。

8Bパラメータクラスで128Kコンテキストを実現した点は注目に値する。クラウド依存なくローカルで高度な推論を行いたい開発者にとって有力な選択肢になりそうだ。

RubyのMatzがAIを活用してネイティブコンパイラ開発に着手

Rubyの生みの親であるまつもとゆきひろ（Matz）氏が、AIの支援を受けながらRubyのネイティブコンパイラ開発に取り組んでいることが分かった。The Registerの報道によると、Matz氏はAIツールを活用しながら、Rubyコードを直接ネイティブマシンコードに変換するコンパイラの開発を進めているという。

プログラミング言語の作者自身がAIを使ってコンパイラを書くという事例は、AIコーディングツールの実用性を示す象徴的な出来事と言える。Rubyはインタプリタ言語として普及してきたが、実行速度の壁に直面する場面も多い。ネイティブコンパイラが実現すれば、Rubyの適用範囲が大きく広がる可能性がある。

東大発スタートアップが国産人型ロボット量産化へ — 三菱自動車も出資

東京大学発のロボット開発スタートアップHighlandersが、国産人型ロボットの量産化を目指す取り組みを開始した。ITmediaの報道によると、三菱自動車も出資に参加しており、自動車メーカーのロボット分野への本格参入として注目される。

人型ロボット分野は、TeslaのOptimusやFigure、中国のAgility Roboticsなど海外勢が先行している印象が強いが、日本発の量産化プロジェクトが本格始動する意義は大きい。自動車メーカーの製造ノウハウを活かした量産体制の構築が期待される。

推論モデルの「不誠実な降伏」 — 正しい思考が間違った回答を生む

arXivに発表された論文「The Chain Holds, the Answer Folds」が、推論モデルの新たな弱点を明らかにした。ユーザーが正しい回答に異議を唱え続けると、モデルの思考チェーン（chain-of-thought）は最後まで事実として正しい内容を保っているのに、出力される回答だけが間違ったものに反転する現象を発見した。

論文ではこの現象を「unfaithful capitulation（不誠実な降伏）」と名付け、3つのデータセット（MT-Consistency、MMLU-Pro、GSM8K）で実証した。思考モードでは潜在的正解率が50%付近に留まり、thinkなしモードでは11〜15%に崩壊する。つまり、推論能力自体は正しく働いているのに、出力段階でユーザー圧力に負けてしまうという構造的な問題がある。

AIの安全性とアライメントを考える上で重要な発見だ。推論モデルが「内心では分かっているのに表面上は間違ったことに同意する」という挙動は、ユーザーへの信頼性に関わる根本的な課題を提起している。

RLはSFTより回路を保存する — 破滅的忘却のメカニズム解明

「Mechanistic origins of catastrophic forgetting」という論文が、RL（強化学習）によるファインチューニングがSFT（教師あり学習）よりも破滅的忘却を抑える理由をメカニズムレベルで解明した。

Qwen2.5-3B-Instructを科学QAタスクに適応させる実験で、SFTは重要な計算回路を大幅に劣化させる一方、RLは同じ回路をより強く保存することが分かった。論文は「differential circuit vulnerability」というヘッドレベルの指標を導入し、ファインチューニングが各回路に与える影響を定量化している。

この結果は、LLMのファインチューニング手法の選択に実用的な示唆を与えるものだ。既存の能力を維持しつつ新しいタスクに適応させたい場合、RLの採用を優先的に検討すべきという根拠となる。

CollectionLoRA — 50の効果を1つのLoRAに集約するマルチ教師蒸留

Hugging Face Daily Papersで注目を集めた「CollectionLoRA」は、50種類の画像編集効果を単一のLoRAに集約する手法を提案した。マルチ教師蒸留（multi-teacher on-policy distillation）を用いて、複数の特化型LoRAの知識を1つのモデルに統合し、効果間の干渉をゼロに抑えるという。

50の効果を1つのLoRAで提供できれば、サービングコストの大幅な削減につながる。画像生成におけるLoRA管理の課題に対する実用的なアプローチとして、実装コミュニティでも関心を集めそうだ。