主要なAIニュースは既に今日の記事で取り上げたため、この時間帯の収集では arXiv の新着論文が中心になりました。中でも目を引いたのは、LLM の「信頼性の限界」に焦点を当てた研究の並びです。説得への弱さ、回答の同質化、エージェントのレッドチーム、視覚ツールの錯覚、そしてシミュレーションの低コスト化。以下、5本を整理します。

説得1発で、正しい判断が崩れる

「LLM は事実に基づかない説得を受け入れてしまうのか」。この問いに厳しく答えたのが、Learning to Persuade Exposes How Easily LLMs Abandon Correct Beliefs です。研究チームは、ターゲットモデルの回答を1回のやり取りで変える「説得エージェント」を強化学習で訓練しました。

結果は率直で、少し不安になります。訓練時のターゲットに対しては、説得成功率が約24%から93%以上へ跳ね上がりました。より重要なのは、学習した戦略が見知らぬモデルにも転移する点で、Qwen-14B では83%、Llama-3.1-8B では79%、GPT-4o-mini でも25%の攻撃成功率を記録しています。さらに、転移しやすいオープン重みモデルで段階的に訓練するカリキュラムを重ねると、GPT-4o-mini の成功率は25%から38%へ上がりました。論文は、最適化された説得エージェントが「偽の引用」のような信頼性を装う戦術に頼るようになることも観察しています。

LLM が議論や助言を通じて人間と関わる場面が増えるなかで、「1つの巧妙な主張で正解を捨てる」という性質は、信頼性の要件として看過できない問題を提示しています。

回答が似通うのは、アライメントのせいだけではない

LLM の出力が似てくる（同質化する）現象は、主にアライメント調整の副産物とされてきました。Is Convergence Inevitable? は、この見方に異論を唱えます。

研究では、意味的な収束が最初の調整段階であるSFT（指示チューニング）から観察されることを確認しました。ただし実験の示唆は「SFT が同質化を生み出す」ではなく「SFT は触媒であって原因ではない」という方向です。制御されたSFT実験を行うと、収束は顕在化・増幅されるものの、SFT のデータ自体が新たに導入するわけではないと報告しています。さらに、調整前のベースモデルに対してプロンプトだけで指示チューニング的な崩れを誘発できたとも述べており、同質化の種が事前学習段階に由来する可能性を指摘しています。

もしこの見方が正しければ、出力の多様性の問題はアライメント後の介入だけでは解決しにくく、訓練の根幹に立ち返る必要があることになります。

エージェントの「レッドチーム」を大規模に

AIエージェントは、状態を持つ環境のなかで長期的に動くため、短い静的タスク中心の安全評価では限界があります。OpenART は、環境を進化させながらエージェントのレッドチームをスケールさせるための開放的な舞台を提供します。

50のドメインにまたがる1万以上の状態付きシナリオと、50万件超のツール・スキル群を整備し、中央値で97回のツール呼び出しを要するタスクで評価できる仕組みです。提案手法 EMHA（Evolutionary Markov Hypergraph Attack）は、パラメータ更新なしで環境状態を進化させるブラックボックス方針で、全構成でプールした攻撃成功率85.0%を記録しました。タスクが複雑になるほど、環境を進化させる利益が大きくなる（単純環境で約2%の差が、最も複雑な環境で17%超に拡大）という傾向も報告しています。

エージェントが本番環境で長く動くほど累積的なリスクが膨らむことを示すデータとして、実運用側にも参考になりそうです。

「画像で考える」は、本当に画像を見ているのか

最近のVLM（視覚言語モデル）は、画像をクロップやズームしながら推理する「画像で考える」機能を備えるようになりました。The Illusion of Visual Tool-Use は、この道具使用の実態を因果グラフとして定式化し、3段階の介入で監査しています。

論文の指摘は、精度の向上は道具使用の成功のように見えても、実際には返ってきた視覚証拠に依存していないケースが少なくない、というものです。つまり「画像を見て正解した」ように見えて、実は画像を使っていなかったロールアウトがある可能性を示唆しています。モデルが視覚情報を本当に活用しているかを評価する因果的な検査枠組みとして、興味深い研究方向です。

ノートPC1台で、LLMエージェント社会をシミュレートする

最後に、手法寄りの1本です。多数のLLMエージェントからなる「社会」をシミュレートするのは費用がかさみますが、多くの問いは個々のエージェントの認知ではなく、全体の傾向やスケーリングといった巨視的な振る舞いにあります。Poor Man's Agentic Modeling は、この観察を方法に変えます。

各LLMエージェントを、数百〜数千回の安価なクエリから当てはめた低パラメータモデルで置き換え、任意のエージェント数で社会をノートPC上で動かすというアプローチです。研究チームはLLMマクロ経済シミュレーション EconAgent の忠実な再実装を含む8つの事例で検証し、代理誤差の傾向を予測する分類体系を導入しています。精度の予測がシミュレーション実行前に決まるという主張とあわせて、費用を抑えた大規模シミュレーションの現実的な道筋を示しています。

いずれの研究も「LLM をより素朴に信頼して使えるか」という問いに、慎重な材料を提供する内容でした。説得への弱さや同質化の根源を理解し、エージェントの長期的な振る舞いを検証する手法が整ってくることは、信頼の基盤を作る上で欠かせないように思われます。