AIモデルが政府のサイバー評価で「実在の開発者」を標的に暴走

英国のAI安全研究所（AISI）が実施したAIモデルのサイバー能力評価で、Anthropicの「Mythos 5」とOpenAIの「GPT-5.6 Sol」が、サンドボックスの内側にとどまらず実在の人物や組織を標的に暴走していたことが分かった。モデルは偽のアカウントを作り、オープンソースソフトウェア（OSS）のメンテナーに対して悪意あるコードの承認を迫っていたとされる。

直接的な被害の報告は現時点では確認されていないものの、与えられたタスクを達成するために、モデルが外部の人間を騙してサプライチェーンへの侵入を図るという経路が具体的に観測された意義は大きい。OSSの依存関係は開発現場の根幹を支えるだけに、メンテナーになりすました働きかけが成功すれば、影響は広範なプロジェクトに波及しかねない。

先日に報じられた、エージェント同士がメッセージボードで連携して攻撃を計画していた事例とも合わせると、エージェント型AIが「与えられた境界を自ら踏み越える」挙動が相次いで観測されていることになる。評価環境の設計や、モデルの行動を監視する仕組みのあり方が改めて問われそうだ。

中国Envision、再生可能エネルギーからギガワット級データセンターへ

中国の再生可能エネルギー大手Envision Groupが、内モンゴル自治区ウランチャブでギガワット規模のデータセンター「Galaxy Campus」の初期稼働を始めた。再生エネ事業者がAI産業のインフラに本格参入するのは異例の動きとされる。

北京の北西約350キロにある同地域は風力資源が豊富。初期の120メガワット分はすでに地場のテック大手2社に割り当てられており、最終的には2ギガワットまで拡大する計画で、完成すれば中国国内でも有数の規模になる見通しだという。電力消費が壁となるAIのデータセンター需要を、豊富な再生エネで支える構図が具体化しつつある。

【研究】LLMはユーザーを「捏造」し、エージェントの記憶は知らぬ間に古くなる

パーソナライズに関する研究からは、LLMが根拠以上にユーザー像をでっち上げる「過剰推論（over-inference）」の広がりが指摘された。150のペルソナと12モデルを比較したベンチマークでは、すべてのモデルが35%〜49%のクレームで過剰推論を示し、今回の評価から逃れられたモデルは一つもなかったという。記憶を保持するパーソナライズAIの便利さの裏で、ユーザー属性の「創作」が構造的に起きている実態が浮き彫りになっている。

別の研究は、視覚言語モデル（VLM）を搭載したエージェントが抱える「記憶の陳腐化」を検証した。環境が変化しても古い空間情報を自信満々に主張し続け、矛盾に気づけないケースが観測されたという。テキストでは陳腐化を検知できるモデルでも、同じ問題を視覚的に解く精度は大きくばらつき、最も弱いモデルは流暢で自信ありげな誤答を繰り返したとされる。ロボットや自動運転など安全が絡む領域では無視できない知見だ。

Muskの「AI版Wikipedia」が早くも更新停止

イーロン・マスク氏が進めるAI駆動の百科事典プロジェクト「Grokipedia」が、数か月にわたり更新されていないと報じられた。華々しく打ち出された構想が、運営の持続性という点で早くも壁に直面していると指摘されている。