AIの安全性を「数学で証明する」という異色のアプローチで挑む研究所の設立が発表された。フィールズ賞を受賞したばかりの数学者が旗振り役だ。一方でOpenAIはエージェント構築向けのAgents APIをパブリックベータへ移行し、開発者に同社基盤のインフラを本格的に開放。Anthropicの15億ドル和解は支払い配分をめぐって混迷を深めている。米国防総省のAIインフラ融資構想や、世代で分かれる「AIに任せる」境界線の国内調査まで、今日のニュースを整理する。

フィールズ賞数学者が「数学的AI安全研究所（MAISI）」設立へ──安全性を「証明」する新しい路線

カナダ人数学者のJacob Tsimerman氏が、数学の最高栄誉であるフィールズ賞の新受賞者として、「数学的AI安全研究所（Mathematical A.I. Safety Institute、MAISI）」の設立を発表した。

The Decoderの報道によると、MAISIが目指すのは、暗号学者が暗号の解読不可能性を証明するのと同じやり方で、AIの安全性を証明することだという。安全性の議論が倫理や政策、実証的な評価を中心に積み重ねられてきた中で、「数学的証明」という形式で安全性を担保しようとする試みは異色と言える。

ちょうど同じ日、WIREDは「なぜこれほど多くのAI研究者が、機械が全人類を殺しうると考えるのか」と題する記事で、急速な性能向上、再帰的な自己改善、エージェントの群れ化といった要因が大手ラボの内部で実際に懸念を生んでいる、と報じている。法的・倫理的な議論だけでは追いつかないと感じる技術者が、検証可能な形での安全性保証を求める機運が高まっている、と読むこともできそうだ。ただしMAISIの組織体制や資金計画など詳細は、現時点で入手している情報の範囲では確認できておらず、続報を待ちたい。

OpenAIのAgents APIがパブリックベータに──CodexとChatGPTの基盤インフラを開発者に開放

OpenAIは前回、音声のGPT-Live-1と同時の発表としてエージェント構築向け「Agents API」を紹介したが、今回はパブリックベータとしての提供が進められていることが詳報された。

The Decoderの記事によると、Agents APIはCodexとChatGPTの裏側で稼働しているのと同じインフラを開発者に使えるようにするものだという。数時間にわたって自律的に動くクラウドエージェントの構築、コード実行、サブエージェントへのタスク委譲が可能で、料金はトークン利用量のみで追加料金はかからない。サンドボックス環境についてはCloudflare、Vercel、Oracleが追加の選択肢を提供する。

エージェント構築の土台をプラットフォーム側が丸ごと提供する形が広がると、開発者の負担は下がる一方、実行基盤が特定事業者に集中する構図も進みかねない。前回も触れたとおり、プラットフォーム間の比較指標を求める声も開発者コミュニティでは上がっており、実運用での評価がこれから始まる段階と言えそうだ。

Anthropicの15億ドル和解、支払い配分をめぐり著者と出版社が対立

Anthropicが書籍の著作権侵害訴訟で結んだ15億ドルの和解について、著者と出版社の間で「誰がどれだけ支払いを受けるか」をめぐる対立が表面化しているとThe Decoderが報じた。同和解は米国史上最大の著作権上の取り決めとされており、その落とし処をめぐる駆け引きは業界全体の先例になりうる。

AI企業と権利者側の大和解自体は一つの区切りだったが、内部で分配をめぐる混乱が続くようだと、AI学習データをめぐる権利処理の「テンプレート」としての機能は当面、期待しにくい。配分の考え方や手続きの詳細はまだ流入している情報が限定的で、断定は避けたい。

米国防総省が50億ドル融資でAIインフラ出資へ協議──WSJ報道

Wall Street Journalの報道として、米国防総省が50億ドル規模の融資を通じてAIインフラへの資金供給に参入する協議を進めていることが伝えられた。

政府のAI投資というと助成金や調達の形が中心だったが、国防総省が「融資」という形でインフラ構築を支えるとなると、安全保障上の優先度の高まりを反映した関与の新形態と言える。フランスのMistral支援など他国の政府関与とも筋が異なり、米国でどのような案件が最初の対象になるかは注目される。交渉中の段階であり、最終的な規模や条件は変わる可能性もある。

国内ノート──「AIに任せる」境界線、20代は最終承認まで容認

国内では、チェンジホールディングスが実施した「AIに任せたい業務」に関する調査が話題を集めている（ITmedia AI+）。

生成AIに仕事をどこまで任せられると考えるかを世代別に見ると、20代は最終的な承認判断までAIに委ねてよいとする回答が目立つ一方、50代は慎重な姿勢が強いという。AI活用の浸透に伴い、「人間のチェック」をどの工程に置くかについて世代間で感覚のずれが生じつつある様子がうかがえる。委託の範囲をどこに引くかは組織ごとの運用設計に直結するテーマで、引き続き調査の推移を見ていきたい。

まとめ

今日のニュースは「AIへの信頼を何で担保するか」という一本の線でつながっていた。数学的証明で安全性に迫るMAISI、実行基盤の開放を進めるOpenAI、金銭的な清算でもつれるAnthropicの和解、融資という形で関与を深める米国防総省、そして受容の度合いが世代で分かれつつある国内の実感。安全性の議論が抽象論から、証明・制度・金銭・社会受容という複数のレイヤーで同時に動き始めている。