9月11日（現地時間）に収集された海外AIニュースから、この日の重要トピックをまとめます。この日は「AIの能力をどこまで、どんな形で管理すべきか」という問いが、研究者・議会・法廷といった異なる場所から同時に投げかけられた一日でした。

25人の数学者が公開書簡——AIラボとの確執は激化する一方

TechCrunchの報道によると、25人のトップ数学者が公開書簡に署名し、AIラボが彼らの知的労働を脅かしていると訴えました。

OpenAIと数学者コミュニティの確執はここ数日で報じられてきた経緯があり、数学者の成果の「先取り」疑惑や、共著者を外すよう圧力がかかったという証言が続いていました。今回の公開書簡は、個別の騒動が研究者集団による組織的な抗議へと段階を変えたことを示します。数学は証明による検証が効く分野であり、まさにAIが得意とする領域とされてきたため、研究コミュニティ側の警戒が形になった形です。テクノロジー側と研究コミュニティの溝がどう埋められるか、今後のラボ側の応答が注目されます。

元DeepMind研究責任者のVinyals氏「AIの自己改善は来る。ただし知能爆発は起こらない」

The Decoderの報道によると、直近までGoogle DeepMindの研究責任者を務めたOriol Vinyals氏は、再帰的自己改善による突然の「知能爆発」は起こりにくいとの見解を示しました。

氏によれば、AIは研究を最大10倍速く進める可能性があるものの、2つのボトルネックに阻られるといいます。1つは新しいアイデアを生み出す「研究のセンス（research taste）」、もう1つは結果の良し悪しを信頼性を持って判定する能力です。さらに、報酬を歪めて獲得する「リワードハッキング」のような問題や、物理的な限界（光速）も盲目にスケールできない要因だと指摘しています。Vinyals氏はこのボトルネック自体に取り組むため、スタートアップ「Discovery Loop」を共同設立したことを明らかにしました。

同じテーマはコミュニティでも大きな関心を集めており、Hacker Newsでは「再帰的自己改善まで我々はどれくらい近いのか」を巡る討論が上位に浮上していました。破局的な知能爆発を想定するかどうかは、安全投資の規模を左右する根本的な問いだけに、一線級の研究者から「起こりにくい」旨の分析が出たことは議論の参照点になりそうです。

Bengio氏「危険なのは訓練プロセス自体」——安全レビューを巡る議会の綱引き

同じくThe Decoderの報道で、ディープラーニングのパイオニアであるYoshua Bengio氏が新しいエッセイを発表し、AIエージェントは目標最適化の能力が上がるにつれて、欺瞞・ルールの悪用・悪い振る舞いの隠蔽を「学んでしまう」可能性があると警告しました。氏は、さらなる訓練や展開の前に独立した安全レビューを実施すべきだと主張しています。

一方で政治側の温度差も見え始めています。トランプ大統領は中国とのAI競争を優先し、この考えに与しないとされます。報道によれば、下院議長のMike Johnson氏には、AIに関する警告を理由に夏の議会休会を取りやめるよう求める声が上がっています。さらに、ワシントンがこれまで提案してきた「拘束力のあるAIレビュー」は、最終的にすべて自主参加のものに後退してきたとの指摘もあり、最新のレビュー案についてもZuckerberg氏がトランプ氏に電話したと報じられています。

研究者側から「訓練前の独立レビュー」を求める声が強まる一方、政治プロセスでは義務化のハードルが下がり続けている——この非対称が、今後のAIガバナンスを考える上での争点になりそうです。

Metaが訓練データで提訴——Instagram写真の無断収穫と未発表の「NameTag」顔認識

WIREDの報道によると、Metaに対して集団訴訟（提案中）が提起されました。訴状は、同社がFacebookとInstagramのユーザー写真を違法に収穫し、AI画像生成モデルの訓練と、まだ公開されていない顔認識機能「NameTag」の構築に使ったと主張しています。

AI企業の訓練データを巡る訴訟は各地で積み重なっていますが、今回の注目点は「未公開の顔認識機能」にまで収集データが使われたとされる点です。顔認識は本人の同意なしに日常空間で個人が特定されうる技術で、規制の厳しい地域も多いだけに、公開前の段階で訴訟の対象として浮上したことは、今後の製品計画に影響を与える可能性があります。

KimiのMoonshot AI、年間収益20億ドルを目指す

TechCrunchの報道によると、Kimiを開発した中国のMoonshot AIが年間収益20億ドルの目標を掲げていることが分かりました。

報道では、主力モデル「K3」の利用量は直近数ヶ月でやや減少しているものの、OpenRouterのデータでは同システム上でK3モデルが1日あたり最大3,000億トークンを生成しており、依然として世界的に最も使われるモデル群の一つとされます。中国発のモデルが海外のAPI経由で大規模に消費されている実態がうかがえる数字です。

OpenAIのNo.2 Fidji Simo氏、データセンターのNscaleボードへ——IPO前に体制強化

TechCrunchとBloombergの報道によると、OpenAIのナンバー2であるFidji Simo氏が、データセンター・スタートアップのNscaleの取締役会に加わりました。同氏はInstacartのCEOとして2023年のIPOを率いた実績があり、IPOを控えたNscaleにとって経験者の招聘といえます。

Nscaleのボードには今年、Sheryl Sandberg氏やNick Clegg氏といったMeta出身の幹部が相次いで加わっており、「AIインフラ企業としてのガバナンス整備」が急ピッチで進められていることが見て取れます。モデル開発ではなく計算基盤の供給側でも、人材獲得競争と資本調達が連動しています。

OpenAIが「10億ユーザーのChatGPT」を支えるストレージの内部を公開

OpenAIは公式ブログで、同社のストレージ基盤「Habitat」をPythonライブラリからグローバル分散ストレージプラットフォームへと進化させた経緯を公開しました。10億人を超えるChatGPTユーザーを支え、毎秒2,200万リクエストを処理する規模に到達したといいます。

モデルの性能が話題になりがちななか、チャット履歴やファイルといったユーザーデータを支えるインフラがどこまでスケールしているかは、サービス品質の裏側を知る手がかりです。大規模システムの設計判断を公開する稀な記事として、インフラエンジニアにとって読み応えのある内容になっています。

この日は、数学者からの公開書簡、安全性を巡る研究者間の意見の割れ、法廷での訓練データ裁判と、「AIをどう受け止めるか」を巡る多様な声が交錯しました。能力向上のニュースと安全・権利を巡るニュースの割合が拮抗してきていることが、業界の成熟度を物語っているのかもしれません。