トロント大学がAI搭載の自律型ワームを実証——ほぼゼロコストで拡散可能

トロント大学のNicolas Papernot教授が率いるCleverHans Labが、オープンウェイトのAIモデルを利用した自律型ネットワークワームを実証した。このワームは、標的のネットワークを偵察し、攻撃をカスタマイズし、計算資源を搾取しながら自律的に拡散する能力を持つ。

従来のマルウェアは事前にプログラムされた挙動に従うしかなかったが、このAIワームは現場の状況に応じてリアルタイムに戦術を変更できる。研究チームは、LLMの推論能力を悪用することで、標的の脆弱性を自動的に特定し、最適な攻撃手法を選択できることを示した。

注目すべきはコスト面だ。AIモデルのオープンソース化が進んだ結果、攻撃者はほぼゼロコストで高度なサイバー攻撃を展開できる環境が整いつつある。論文の著者らは、AIの安全性研究がモデル自体の出力制御に偏りすぎており、モデルが自律的に「行動する」シナリオへの対策が不足していると警告している。

AIで諜報分析はできるか？——「分析的に空洞」な結果しか出なかった

Predictive Defense BlogのRobin Dimyanoglu氏が、複数の専門エージェントで構成した諜報分析パイプラインを実験した結果を公開した。6つの専門エージェント（構造化分析技法を使用）で構成したシステムに実際の諜報データを入力したところ、出力されるレポートは「構造的には正しいが、分析的には空洞」だったという。

具体的には、エージェントはデータの欠落を学習データからの推測で埋める傾向が強く、実際に収集された証拠に基づく分析よりも、もっともらしい「もっともらしい物語」を生成してしまった。これは諜報分析において最も避けるべきバイアスの一つである「確証バイアス」を強化する方向に働く。

この結果は、AIエージェントの多様化やマルチエージェント構成が万能ではないことを示唆している。構造が洗練されていても、個々のエージェントの推論の質が低ければ、全体としての分析力は向上しない。特に「事実と推測の区別」が求められる分野では、現状のLLMベースのエージェントには根本的な限界があると結論づけている。

Nous Researchが「Hermes Desktop」発表——オープンソースのデスクトップAIエージェント

Nous Researchが、ローカルで動作するオープンソースのデスクトップAIエージェント**「Hermes Desktop」**を発表した。macOS、Windows、Linuxに対応し、主な特徴は以下の通り。

  • 永続的メモリ: 会話をまたいでコンテキストを保持
  • マルチプラットフォーム接続: Telegram、Discord、Slackなどのチャンネルに直接接続可能
  • サブエージェント委任: タスクを小さなエージェントに分割して実行
  • サンドボックス実行: 安全な環境でコードを実行

ローカル動作を前提としているため、データが外部サーバーに送信されず、プライバシー面での優位性がある。また、モデルの選択肢も自由で、ユーザーが好みのLLMをバックエンドとして設定できる。

AIエージェントのデスクトップ統合はAnthropicやOpenAIも進めているが、オープンソースかつローカル動作という点でHermes Desktopは独自の立ち位置を持つ。

推論モデルの「有害な過剰思考」——長く考えるほど答えが悪くなる

arXivに投稿された論文「Thinking Past the Answer」が、Large Reasoning Models（LRM）における過剰思考の弊害を定量的に評価した。

LRMはテスト時計算量を増やすことで性能を向上させる設計だが、この研究は「正解に到達した後も推論を続けると、かえって解答が悪化するか」を検証した。結果は明確で、多くのモデルにおいて、正解に到達した後の追加推論は解答を洗練させるのではなく、逸脱させることが分かった。

これは「推論ステップが多ければ多いほど良い」という通念に対する重要な反証だ。特に数学的推論や論理パズルにおいて、モデルが正解を「考え直して」間違った結論に至る現象が観察された。実用的には、推論の長さを適切に制御するストッピング基準の重要性を示唆している。

コーディングエージェントの「引き継ぎ債務」——中断されたタスクの引き継ぎコスト

別のarXiv論文が、コーディングエージェントの評価における**「引き継ぎ債務（Handoff Debt）」**という概念を導入した。

従来のベンチマークは「1人のエージェントが中断なくタスクを完了できるか」を評価するが、実際のソフトウェア開発では、タスクは中断され、レビューされ、別のエージェントやエンジニアに引き継がれる。この研究は、あるエージェントの作業が不完全または不透明な場合、後続のエージェントがどれだけのコストを払って文脈を再構築する必要があるかを測定した。

実験では、決定的なタイミングでエージェントを中断し、別のエージェントに引き継がせるプロトコルを使用。結果として、前のエージェントの作業状態が不透明であるほど、後続エージェントの「再発見コスト」が大幅に増加することが示された。これは、コーディングエージェントの実用化において、エージェント間のコミュニケーション設計が性能と同等に重要であることを意味する。

Google AI Overviewsが検索1位のクリックを58%減少させた

AhrefsのTim Soulo氏が公開したデータによると、GoogleのAI Overviews（AI生成の検索結果要約）が表示される場合、検索結果1位のクリック率が58%減少していることが分かった。

これはAI Overviewsがユーザーの質問に直接回答するため、元のページを訪問する必要がなくなるためだ。SEO業界では以前から懸念されていた影響が、具体的な数値として確認された形になる。

一方で、AI Overviewsの表示頻度や対象クエリは依然として限定的であり、すべての検索でこの影響が及ぶわけではない。ただし、GoogleがAI Overviewsの適用範囲を拡大していく方針であることを考えると、コンテンツ配信者にとっては長期的な影響が大きい可能性がある。

  • U of T researchers demonstrate AI worm could target any online device — University of Toronto
  • Can AI Do Intelligence Analysis? Apparently Not — Predictive Defense Blog
  • Nous Research — Hermes Desktop — Reddit r/LocalLLaMA
  • Thinking Past the Answer: Evaluating Harmful Overthinking in Large Reasoning Models — arXiv:2606.02835
  • Handoff Debt: The Rediscovery Cost When Coding Agents Take Over Interrupted Tasks — arXiv:2606.02875
  • AI Overviews reduce clicks to the #1 result by 58% — Tim Soulo (X/Twitter)