LatentSkill — エージェントのテキストスキルを重みに変換する新手法
上海交通大学、中山大学、上海創新研究院、OPPO研究院の共同チームが「LatentSkill」を発表した。これはLLMエージェントがプロンプト内で保持するテキスト形式のスキル（in-context textual skills）を、**モデルの重みに直接組み込める形（in-weight latent skills）**に変換する手法だ。
従来、エージェントに新しいスキルを覚えさせるにはプロンプトに長文を追加するしかなく、コンテキストウィンドウを圧迫し、推論コストも増大させていた。LatentSkillはこの問題を、テキストスキルをプラグアンドプレイ可能な重みパラメータに蒸留することで解決する。
エージェント開発において「スキルの追加」と「コンテキストの節約」は本質的なトレードオフだったが、この手法が実用レベルで機能すれば、エージェントの軽量化と高速化に大きく寄与する可能性がある。
RAGリライティングの改善 — 「答えの漏洩」が真犯人だった
Hugging Faceで注目を集めている別の論文が、RAG（検索拡張生成）におけるクエリリライティングの評価に根本的な問題を指摘した。
多くのリライティング手法が「F1スコアを改善する」と主張してきたが、この論文は厳密な介入実験を行った結果、スコア向上の大部分がゴールド解答の漏洩（leakage）によるものであることを示した。具体的には、テキストからゴールド解答を除去するとF1スコアが28〜64ポイントも急落。逆に、元々解答を含まないテキストにゴールド解答を注入すると、12ケース中10ケースでF1が上昇した。
さらに、従来の単一プローブによる漏洩チェックが非常に脆いことも判明。5つのセンチネル（監視プローブ）による監査では、「非漏洩」と判定されていたF1改善が実際にはマイナスに反転するケース（+4.12 → -7.81）も確認された。
この論文は新たなリライティング手法を提案するものではなく、評価の厳密化を目的としている。介入ランナーとセンチネルパネルをオープンソースで提供し、今後のリライティング手法の主張を一律に監査できる基盤を構築した。
オープンソースLLMは「もう十分」なのか — Redditで議論が白熱
RedditのLocalLLaMAコミュニティで「オープンソースLLMは要件の95%を満たす『十分な』水準に達したのではないか」という問いが投げかけられ、活発な議論を呼んでいる。
投稿者は、残り5%の付加価値がどこから来るのかを問いかけ、(a)回答品質の向上、(b)自動化ループのクリーンさ、(c)「一番ではない」という批判リスク、(d)さらなる生産性向上、(e)リスク管理——といった観点から費用対効果を検討している。
この議論は、コミュニティがオープンソースモデルの性能向上を実感しつつある一方で、商用API（OpenAI、Anthropic、Googleなど）を選び続ける組織的・心理的バイアスにも目を向けている点で興味深い。「コスト対効果」という実務的なフレームで整理しようとする姿勢は、企業内でのLLM採用判断にも参考になる視点だ。
AIトークンコスト削減の実践知を募る議論
Hacker Newsでも「LLMのトークン料金が痛い」という投稿が話題になっている。安いモデルへの切り替え以外に、実際のアプリケーションでコストを下げる工夫を募る内容だ。
LLMの利用が本格化するにつれ、推論コストの最適化は開発チームの共通課題になりつつある。プロンプトキャッシング、セマンティックキャッシュ、出力トークンの削減、バッチ処理の最適化など、具体的な手法の共有が期待されるスレッドだ。
120B dense LLMを10 tok/sec以上で動かす最安構成
同じくReddit LocalLLaMAで、120Bパラメータのdenseモデル（Q5〜Q6量子化、64kコンテキスト）を10トークン/秒以上で動かすための最安ハードウェア構成についての質問が寄せられた。
投稿者はCPUOnly推論（8ch RAMワークステーション級）、GPUOnly推論（120GB VRAM必要）、混合推論の3パターンを挙げており、とくに混合推論の最適な構成が不明としてコミュニティに問いかけている。ローカルLLMのスケールアップにおいて、ハードウェアの選択肢とコストパフォーマンスの整理は多くの実践者にとって有益な情報となる。