8月28日の海外AIニュースから5本をまとめる。米連邦裁判官が国防総省によるAnthropicへの安全保障上の指定を「違法かつ根拠がない」として阻止した。Googleは信頼できる情報源をAIで活用する「Expert Intelligence」を発表し、第1弾として購入済み電子書籍10万冊超をGemini Notebookに接続した。米国ではAIデータセンター建設への反対が党派を超えて広がっていると報じられる。あわせて、DeepMindの人材流出を示す新しいデータと、安全なモデル同士をマージしても破られるという新しい研究を取り上げる。

ペンタゴンのAnthropic指定、連邦裁判官が「違法かつ根拠なし」と阻止

米国防総省がAnthropicを国家安全保障上のサプライチェーンリスクに指定しようとした動きに対し、連邦裁判官がこの指定を「違法かつ根拠がない（illegal and baseless）」と判断し、阻止したことが分かった（WIRED報道）。

収集された情報の範囲では、裁判所が国防総省側の指定に法的な根拠を認めなかったというのが骨子で、経緯の詳細までは把握できない。ただ、政府機関が特定のAI企業を安全保障上のリスクとして名指しする措置は、政府調達や取引関係に直接影響しうる重い措置であり、司法がそれを「根拠なし」と退けた点は、行政とAI企業の関係におけるチェック機能が働いた事例として注目に値する。

昨今の米国ではAI企業と政府の距離の取り方が政策論点になっており、この裁判所判断が今後の類似措置にどう参照されるかは見守る必要がある。

Google「Expert Intelligence」: 購入済み電子書籍10万冊をAIの情報源に

Googleは、信頼できる情報源をAI製品で活用する取り組み「Expert Intelligence」を発表した。第1弾として、「Google Playブックス」の対象電子書籍を「Gemini Notebook」のソースに追加できるようになった。大手出版社の10万冊以上が対象で、今後は他のサービスにも拡大していく方針だ（ITmedia報道）。

ユーザーが自分で購入した本をAIの根拠情報として読み込ませられる形で、NotebookLM系の「ソースに基づく回答」という設計思想を、書籍という長文の専門コンテンツにまで広げたものと言える。

なぜ重要か。生成AIの回答の信頼性向上は各社共通の課題で、hallucination（根拠のない生成）への対策として「信頼できる一次情報に接続する」アプローチが主流になりつつある。購入済みコンテンツを本人だけがAIで活用できる形は、出版社との著作権上の合意と組み合わせることで、ウェブ上の断片ではなく体系的な知識をAIに渡せる最初の大規模事例の一つになる可能性がある。

分断された米国で、左右がAIデータセンター反対で一致

AP通信の報道によると、政治的な分断が深い米国で、リベラル側と保守側の双方がAIデータセンター建設への反対で一致する動きが広がっているという。

タイトルと投稿情報から読み取れるのはそこまでで、詳細な数字や具体的な事例は収集データには含まれていない。ただ、AIデータセンターが電力・水・土地を大量に消費する施設である以上、立地地域での摩擦が各地で起きているという文脈は、これまでの報道からも裏付けられる。党派ごとに反対の理由は異なっていても（環境負荷なのか、地域の決定権なのか）、建設計画への抵抗という点で合流する構図は、データセンター建設を進める企業や政権にとって無視しにくい圧力になるだろう。

先日は英国の電力網で「幽霊データセンター」問題が伝えられたが、米国でも地域レベルの抵抗が政治的に組織化されつつある、ということかもしれない。

DeepMind、エリートAI人材の流出が進行か

Fortuneが新しいデータを紹介し、Google DeepMindがエリート層のAI研究者を競合するAIラボやスタートアップに奪われつつあると報じた。

収集された情報はここまでで、流出の規模や主な行き先の詳細は把握できない。ただ、AI研究の人材獲得競争はモデル開発の優位性に直結する領域だ。研究リーダー格の移動が報道される機会が増えている中で、「DeepMindの引き留め力」をデータで問う報道が出てきたこと自体が、競争の激しさのバロメータと言える。

安全なモデル同士をマージしても破られる——「Basin-Aware Jailbreaks」研究

arXivに発表された「A Single Suffix to Break Them All: Basin-Aware Jailbreaks for Merged Model Families」は、モデルマージの安全性に関する従来の想定に反する結果を示している。

モデルマージは、複数のファインチューニング済みモデルを追加学習なしで統合する手法で、オープンウェイトモデルの活用では広く使われている。これまでの研究は主に「危険な構成モデルが含まれる場合」にリスクが生じると考え、個別にアライメントされた安全なモデル同士をマージすれば安全性は保たれるという暗黙の前提があった。

この研究はその前提に異を唱える。すべての構成モデルが安全であっても、事前学習済み基盤モデルの中に根ざしたjailbreakリスクがマージによって顕在化するという。しかも攻撃は「一つのサフィックス（接尾辞）」で済み、マージされて生まれたモデル家族全体を同じサフィックスで破れるとしている。

なぜ重要か。マージモデルの安全性検証が構成モデル単位で済むという想定が崩れるなら、マージ後のモデルに対する安全評価を独立にやり直す必要がある。手軽に性能を引き出せる手法だけに、安全性の検証コストを見積もり直すきっかけになる研究と言える。

まとめ

安全保障とAI企業の関係をめぐる司法判断、信頼できる情報源とAIを結ぶGoogleの動き、データセンターをめぐる地域政治、人材競争、そしてマージモデルの安全性——と、今日はAIを取り巻く制度面・社会面のニュースが目立った。技術面の詳細は各報道・論文を参照してほしい。