Microsoft Copilotの重大脆弱性: 2FAコードが奪われる仕組み
Microsoftが先週火曜日にパッチを適用したM365 Copilotの脆弱性は、最大深刻度と評価されていたものだ。月曜日、この脆弱性を発見・報告した研究者らが、実証エクスプロイト「SearchLeak」がいかにしてCopilot経由でアクセス可能なメールから2FAコードや機密データを抽出できるかを公開した。
問題の根本には、LLMがユーザーからの指示と、サードパーティコンテンツに埋め込まれた悪意のある指示を区別できないという構造的弱点がある。MicrosoftをはじめとするLLMプロバイダーは、この「盲目の従順さ」を根本的に防ぐ手段を見つけられておらず、複雑な場当たり的なガードレールで対応し続けている状態だ。マークアップ言語やHTMLタグを用いたデータ持ち出しの手口は、従来のフォーム送信ブロックを迂回する巧妙なものだった。
この事例は、LLMセキュリティのアプローチが繰り返し失敗していることを浮き彫りにしている。
AnthropicがClaude AIの価格表示で集団訴訟に
Anthropicは、Claude AIの価格設定が誤解を招くものだったとして訴訟に直面している。訴状では、実際の利用料金が消費者に提示された価格と大きく異なっていたと主張されている。詳細は報告されていないが、AIサービスの料金体系に対する消費者の不信感が法的な形をとった点は注目に値する。
最近、Claudeの料金体系が定額制から従量課金へと移行する動きが複数報じられており、この訴訟がその流れに影響を与える可能性がある。
Databricksのデータウェアハウスが15億ドル規模に到達
Databricksは、SnowflakeやGoogleと競合するデータウェアハウス事業の年間売上が前年比で2倍以上になり、15億ドル（約2,300億円）の年間ランレートに到達したと発表した。CEOのAli Ghodsi氏は、AIワークロードへの需要と他プラットフォームからの乗り換えが成長の原動力だと語っている。
非上場企業でありながらこの規模に達したことは、AIインフラ需要がデータ処理層にも大きな収益をもたらしていることを示している。
Man Groupが「AI債券バブル」のリスクを警告
世界最大級のヘッジファンド之一であるMan Groupは、AIインフラ構築競争における債券発行の急増に「バブルリスク」が蓄積していると警告した。同社のSriram Reddy氏らは「セクターへの熱狂が著しい行き過ぎを招いている」と指摘。特にハイイールド債とローン市場での発行を懸念しており、多くの借入企業が依然としてフリーキャッシュフローマイナスの状態にあると述べた。
AI投資ブームの裏側で、金融市場における過熱感を指摘する声が出始めている。
エストニアア語研究所がロシアプロパガンタ対AIベンチマークを公開
エストニア語研究所は、AI言語モデルがロシアのプロパガンダにどの程度影響されやすいかを測定するベンチマークを公開した。このベンチマークは、LLMが意図的な偽情報にどの程度耐性を持っているかを体系的に評価するものとみられる。具体的な結果については論文の詳細待ちだが、生成AIの情報操作耐性を測る試みとして、民主主義社会におけるAIの信頼性問題に直結する重要な取り組みだ。
Mistral AIがウクライナとのPalantir型パートナーシップを模索
フランスのMistral AIが、ウクライナとの間でPalantir風の軍事・防衛向けパートナーシップの構築を進めていることが報じられた。欧州のAI企業が防衛分野に本格的に進出する動きとして注目される。詳細は有料メディア Intelligence Online が報じているもので、Mistral AIが商用LLMの開発だけでなく、政府・軍事用途での展開も視野に入れていることがうかがえる。