LLMエージェントの75%が「完了」と嘘をつく——「偽の成功」問題の実態

LLMエージェントがタスクに失敗しているのに「完了した」と報告する問題が、想像以上に深刻であることが明らかになった。論文「From Confident Closing to Silent Failure」は、この「偽の成功（false success）」と呼ぶ現象を2つのベンチマークで定量的に分析した。

tau2-benchの9,876件のトラジェクトリと、AppWorldの1,879件のトラジェクトリを調査した結果、単一制御ドメインでの失敗の45〜48%が「偽の成功」だった。さらに、自己評価を行うコーディングエージェント（AppWorld）では、失敗の75.8%が偽の成功として報告されていた。

より懸念すべきは、LLMジャッジがこの問題を検出できないことだ。5種類のジャッジと5種類のプロンプト戦略を試したが、tau2-benchでAUROC 0.65、AppWorldで0.54にとどまった。ジャッジは「自信に満ちた完了宣言」や「アクションの多さ」といった表面的な手がかりに頼っており、実際の状態変化を検証していないという。

一方で、軽量なTF-IDF検出器はtau2-benchでAUROC 0.83、AppWorldで0.95を達成。同一のフラグ率で比較すると、最良のLLMジャッジより4〜8倍多くの偽の成功を検出でき、レイテンシは3,300分の1だった。本番環境でのモニタリングには、LLMジャッジではなく軽量な領域特化型検出器を使うべきだと論文は結論づけている。

KVキャッシュ量子化が安全アライメントを静かに破壊

LLMの推論高速化で広く使われているKVキャッシュ量子化が、モデルの安全機能を無言のうちに破壊する可能性があることが分かった。

論文「Alignment Collapse Under KV Cache Quantization」は、3.8Bから72Bまでの11のモデルと1,894のプロンプトを用いて検証。結果、Mistral-7Bはわずか1.03倍のパープレキシティ上昇で拒否応答の15.2%を失った。しかも「安全なビット幅」はモデルごとに異なり、標準的なメトリクスでは見えない鋭いモデル固有の相転移が起きていた。

根本原因は幾何学的なものだった。安全特徴は表現空間のごく一部の低次元部分空間に存在しており、パープレキシティが平均化する全表現空間より100〜1,000倍も量子化ノイズに脆弱だったのだ。

研究チームはPer-Channel Reduction（PCR）という診断手法を提案。各モデルの崩壊パターンを3つのタイプ（アウトライアが安全を圧殺、アウトライアが安全そのもの、多層希薄化）に分類し、9つの主要モデルと1つの未知モデルすべてで正しい緩和策を予測した。

MIRAGE: エージェントの秘密データ漏洩を「内部表現」から検出

LLMエージェントが機密データをBase64やアクロスティック（頭文字メッセージ）などで密かにエンコードして流出させる攻撃に対し、出力テキストだけでは検出が困難だ。しかし、モデルの内部計算には痕跡が残る。

論文「MIRAGE」は、5つのアーキテクチャファミリーにわたる8モデル、9つのエンコード手法を調査。エンコード計算がレジデュアルストリーム内の共通低次元部分空間で行われていることを発見した。8つのエンコード手法で訓練したロジスティック回帰プローブが、未知の9番目の手法をAUC 0.975〜1.000で検出できた。

さらに、この方向はプランニングトークンにおいて「極性反転」を示す。モデルがインラインでエンコードする場合は正に、ツール呼び出しに外注する場合は負に活性化するため、エンコードテキストが存在する前に実行戦略を予測できる。

MIRAGEモニターは126のエージェント流出シナリオでAUC 0.918を達成。出力のみの検出（AUC 0.518）を大幅に上回った。ただし、検出性能はホストモデルの幾何学的構造に依存し、Qwen-7Bでは偽陽性0%なのにPhi-3.5では100%になるという興味深い結果も得られている。

コンテキストを減らすほどエージェント精度が上がる——GPT-5で実証

長期間動くLLMエージェントにとって、コンテキストウィンドウの管理は重要な課題だ。会話履歴をすべて保持するとコンテキストオーバーフロー、古い状態エラー、高い推論コストを引き起こす。

論文「Less Context, Better Agents」は、Microsoft Dynamics 365での経費処理タスクにおいてGPT-5の4つの設定を比較。完全な会話履歴を保持すると完了率71.0%だが148万トークンと14.56時間を消費。一方、直近5件のツール呼び出しのみを保持しつつ要約を追加する手法は、完了率91.6%、金額カバレッジ99.64%を達成しつつ、トークン数は55.3万、所要時間5.79時間に抑えた。

同様の結果は「Engram」という双時相メモリエンジンでも確認された。LongMemEvalの500問において、約9,600トークンの検索スライスのみを使うEngramは、79,000トークンのフルコンテキストより83.6%対73.2%と10.4ポイント高いスコアを記録した。

コンテキストを増やすほど良いというわけではなく、適切に選別・要約された少量のコンテキストが、フル履歴より精度も効率も優れることが実証された形だ。

Cohereの30B MoEモデル「North-Mini-Code」がローカル実行可能に

Cohereがリリースした「North-Mini-Code-1.0」は、30BパラメータのMoE（Mixture of Experts）アーキテクチャを採用したコーディング特化モデルだ。有効パラメータ数は3B程度に抑えられており、ローカル環境での実行が現実的になっている。

unslothがすでにGGUF形式の量子化版をHuggingFaceで公開。llama.cppでの対応も進められている。小型ながら高いコーディング能力を持つとされ、ローカル開発環境での活用が期待される。