9月18日、AIの「存亡リスク」をめぐる議論が数学者の公開書簡という形で具体化した。ロイヤル・ソサエティのフェロー42人が「リスクは現実的で緊急性がある」と警告。一方で実用化の歩みも止まらず、Anthropicが生物学ラボの設置を進め、MastercardがAIエージェントによる決済を解禁した。開発者コミュニティでは、量子化モデルBonsaiのベンチマーク表示を巡る検証と、Jev互換のオープンソース実装「OpenJev」の登場が話題になっている。

数学の最前線42人が「AI存亡リスクは現実的で緊急」と公開書簡

The Decoderの報道によると、ロイヤル・ソサエティのフェロー42人が、AIの存亡リスク（existential risk）は現実的（real）で緊急性（urgent）があるとする公開書簡を発表した。署名者にはフィールズ賞受賞者のMartin Hairer氏とPeter Scholze氏が含まれる。書簡は、主要なモデルが未解決の研究問題を数ヶ月で解決するなど能力の伸びが具体的に観測されている点を挙げ、同じ能力がサイバー兵器や生物兵器の開発にも転用されうると指摘する。そして一般の理解が追いつく頃には対処が間に合わなくなるおそれがあると訴えている。

同じ日、MIT Technology Reviewは購読者向けライブイベント「AIは本当に私たち全員を殺せるのか？」で寄せられた質問に、シニアAI編集者のWill Douglas Heaven氏とAI記者のGrace Huckins氏が答えるQ&A記事を公開した。個人がAIに関連する事故・攻撃の犠牲になる可能性は「ゼロではない」としつつ、Heaven氏は「SF的な描写の外に、AIが人類全員を殺す状況は現時点ではない」と慎重な見方を示した。一方でアライメントの難しさは率直に語られており、LLMは人間以上に一貫性がなく予測しにくいため、DoとDon'tをコードで書き込めず訓練で植え付けるしかないこと、モデルの「思考の連鎖」を監視する手法も新しいエージェントでは通用しなくなっていることなどが説明されている。先日報じられたエージェントによるハッキング事案の分析で、第三者機関METRが分析に用いたモデル自体が分析対象のテキストに影響されうるという指摘を紹介するなど、「モデルを観測すること自体が歪みを生む」という新しい問題意識も見える内容だ。

またWiredは、AI規制を求める左派の内部でも「どれほどの危惧を政策に反映すべきか」をめぐって分裂が起きていると報じた。規制の必要性では合意があっても温度差は大きく、いわゆる「AIドゥーム」論をめぐる議論は支持層の内部でも一枚岩ではない。さらにBloombergによると、BrookfieldのBruce FlattCEOは「インフラ建設がAI企業の需要に追いつかないため、AI競争はすでに減速している」との見方を示した。AnthropicのDario Amodei氏やOpenAIのSam Altman氏が安全性を理由に減速を訴えた最近の発言とは独立に、物理的な制約から減速が進むという観測である。

Anthropicが生物学ラボを設置、AI創薬を拡大

ロイターの独占報道（MSN転載）によると、AnthropicはAI創薬プログラムを拡大するため、生物学ラボを静かに設置した。ハッカー向けにも紹介したMIT Technology ReviewのQ&Aで「AIの生物学的能力」への懸念が語られていた通り、生物学はフロンティア開発における最重要論点のひとつだ。安全性の検証と創薬の実用化、双方の文脈でAI企業が自前の実験能力を持つ意味は小さくない。

MastercardもAIエージェント決済に参入

Wall Street Journalの報道によると、MastercardはVisaに続き、AIボットがユーザーに代わって買い物できるようにする提携を結んだ。決済大手二社がそろって「エージェントによるショッピング」時代の土台を整えつつある。AIエージェントが支払いの主体になることで生じる不正検知や責任の所在など、新たな論点も併せて注目される。

Bonsaiの「98.2%知能保持」表示、白書の数字と突き合わせた検証が拡散

Redditのr/LocalLLaMAでは、三値化（Ternary）モデル「Bonsai 2 27B」の発表時に使われた「知能の98.2%を保持」という見出し表示をめぐる検証が広がっている。コミュニティが白書の記載を確認したところ、Terminal-Bench 2.1では52.8ポイント（比較対象のQwen系27Bフル精度は69.7）、SWE-bench Verifiedでは60.8ポイント（同80.6）と、ベンチマークごとの実測は「フル精度の約4分の3」だったという。ヘッドラインの印象と付表の数値の隔たりをめぐり、量子化モデルの性能低下をどう表示すべきかという議論に発展している。

同サブレディットでは、Qwen系の改良版「Swift Qwen3.8 27B」で知られるUkisAIが、Bonsai 2の「過思考（overthinking）ループとトークン消費の多さ」を改善した版の開発意向を尋ねる投票も行われており、派生モデルの展開も活発だ。

OpenJev登場──Jev互換のOSS実装が無料公開、日本語解説も

今週発表されて話題の「文章を書かないAI」Jevは待機リスト方式の限定提供だが、待たずに試せる選択肢が登場した。Redditのr/LocalLLaMAで公開された「OpenJev」は、Jevと同じAPIを持つオープンソース（Apache-2.0）のサーバー実装で、TypeSafeのSDKがベースURLの変更だけでそのまま動くという。きっかけはMatt Mastracci氏がvLLMに開いたプルリクエストで、DiffusionGemmaを単一の脱ノイズステップで動かし、yes/no・選択式・0〜Nスケールの質問（typed questions）に対して各選択肢の確率を返す仕組みを実現した。

精度はMastracci氏の評価で、DiffusionGemmaベースの実装が201問中198問に正答したのに対しJev本体は191問と、ほぼ互角以上。レイテンシもエンドツーエンドでp50約170msと報告されている。Dockerイメージに加え、無料のホストAPI（アカウントあたり1億トークン・カード不要）も提供されている。日本語圏でも「Jevって何？」という方向けのざっくり解説がQiitaに登場するなど、認知の裾野が広がりつつある。

米政府サイトが中国製AI検索ツールを使用、FBIは「Anthropicのコピー」と指摘

ロイターの報道（Reddit経由で話題化）によると、米政府のウェブサイトが中国製のAI検索ツール（Qwenベース）を使用していたことが分かった。FBIは同ツールについて「Anthropicのモデルをコピーしたもの」と主張しており、政府調達をめぐる中国製AIの扱いが改めて問われる形になった。大手モデルをめぐる「知識の持ち出し」疑惑は法廷闘争の主題になりつつあり、公的セクターでの利用審査が厳格化する流れにも注目したい。