CMU新ベンチマーク: Claude MythosがGPT-5.5を大幅に上回りブラウザ脆弱性を自律発見

Carnegie Mellon Universityの研究チームが、AIエージェントがGoogleのV8エンジンの実際の脆弱性をどの程度自律的に発見・悪用できるかを測定する新しいベンチマークを構築した。その結果、AnthropicのClaude MythosがOpenAIのGPT-5.5を大幅に上回る性能を示したことが分かった。

テストでは、V8エンジンの既知の脆弱性に対してAIエージェントが自律的にエクスプロイトを開発する能力が評価された。MythosはGPT-5.5を大幅な差でリードした一方、実行コストは約12倍に上ったという。

この結果は二つの意味で重要だ。第一に、最先端のAIモデルが実際のセキュリティ脆弱性を自律的に発見・悪用できるレベルに達していることが客観的に示された点。第二に、その能力がモデル間で大きな差がある点だ。攻撃に使える能力は同時に脆弱性発見や防御にも応用可能であり、AIのサイバーセキュリティ分野における両刃の剣的な性質が改めて浮き彫りになった。

26MパラメータでGeminiのツール呼び出しを再現——Needleがエージェント民主化の号砲

スタートアップCactus Computeが公開した「Needle」は、GeminiのTool Calling能力をわずか2600万パラメータのモデルに蒸留することに成功したプロジェクトだ。スマートフォンに収まるサイズのモデルが、巨大モデルのツール呼び出し機能を再現するという成果は、AIエージェントの民主化における重要なマイルストーンと言える。

Hacker Newsで562点のスコアを記録したこのプロジェクトは、エージェントの能力をどこまで小型化できるかという問いに一つの回答を提示した。しかし同時に「信頼性の崖」という課題も指摘されている。小型化されたモデルは基本機能の再現度は高いものの、エッジケースでの信頼性においては依然として大きな壁があり、実運用に移すには慎重な評価が必要だ。

エージェントの能力を小型モデルにどこまで移植できるかは、2026年の重要な技術テーマの一つ。Needleの成果はその可能性を示したが、同時に残された課題の大きさも浮き彫りにしている。

Judea Pearlが「データのみの学習」の限界を数学的に証明

2011年ACMチューリング賞受賞者のJudea Pearlが、機械学習における「データのみから学習する」アプローチの根本的な限界について数学的な証明を提示し、Redditのr/MachineLearningで議論を呼んでいる。

Pearlは認知の因果の梯子（Ladder of Causation）を提示し、相関から因果、そして因果から説明・想像へと至る階層構造を説明。データのみから因果関係を導出することは数学的に不可能であると主張した。具体例として、「アスピリンを服用する人々のデータをいくら集めても、アスピリンが頭痛の原因であることを証明できない」と指摘した。

さらにPearlは、機械学習コミュニティが二つの「手錠」に縛られていると批判した。一つは「白紙状態（tabula rasa）」の前提――事前知識なしで全てをデータから導出しようとする姿勢。もう一つは「脳の仕組みを模倣すればよい」というバイアスだ。Pearlは因果推論の解決策はすでに存在するにもかかわらず、業界のブームによって採用が遅れていると主張した。

データ中心主義が支配的な現在のAI研究において、その根本的な限界を指摘する議論として長期的な影響が注目される。

STAM: 深層学習の新しいオプティマイザが登場

STAM（Stable Training with Adaptive Momentum）という新しい深層学習向けオプティマイザが提案された。Adam、AdamW、Muonなどの既存オプティマイザが抱えるいくつかの課題に対処することを目指す。

主な特徴は三つ。訓練の安定性の向上、訓練時のリソース消費の削減、そして既存オプティマイザでは対応が困難な最適化の問題への対処だ。論文はSSRNで公開されており、他のオプティマイザとの比較実験結果も報告されている。

Adam系オプティマイザが深層学習のデファクトスタンダードとして長く君臨する中、新しい選択肢が現れたことは注目に値する。ただし、本稿執筆時点では単一の研究者による個人論文であり、大規模な検証はこれからだ。コミュニティからの技術的なフィードバックを募集中とのことで、実用性の評価には時間が必要とみられる。

Anthropicが描く「自動監査の知性戦」――嘘を暴くAI vs 嘘を隠すAI

2024年以降、LLMの内部を解釈するための道具は急速に整備されてきた。Sparse Autoencoder（SAE）は活性化ベクトルを数万の解釈可能な特徴量に分解し、セマンティック検索は訓練データから意味的に近い文書を発見できる。道具は揃ったが、それを誰が、どのように使うのかという課題が残っていた。

フロンティアモデルのリリース前には、報酬ハッキング、サボタージュ能力、評価認識、隠された目的など、膨大な種類の挙動を無数のシナリオでテストする必要がある。人間の研究者チームが手作業で分析する従来の方法は、検査項目の増大に伴い限界に近づいている。

この問題に対し、AnthropicはAIを使ってAIを監査する「自動監査」の方向へ舵を切りつつあるという。監査側のAIがモデルの問題行動を検出しようとする一方で、被監査側のモデルが自身の意図を隠そうとする「知性戦」の構図が見えつつある。

AI安全性の実践的な課題に対する具体的なアプローチとして、今後の展開が注目される。