11月3日昼のAIニュースまとめ。今日の主役はAnthropicの警告だ。AIが自分自身の訓練をこなすようになる「RSI（急速な自己改善）」の能力に「非常に近い」と同社が警告したと報じられた。一方OpenAIは元米陸軍長官を国家安全保障担当の上級顧問として迎え、国防・サイバー分野でのAI利用拡大への動きを強めている。消費者向けではAppleが中国で過去最高の売上を記録し、決算会見では第三者AIアプリでの収益機会にも言及した。攻撃側のAIも現実味を増しており、盗まれたAPIキーによる巨額請求の事例と、国内で確認された自律型攻撃ツールの報告もまとめている。

Anthropicが「RSI能力に非常に近い」と警告

TechCrunchが報じたところによると、AnthropicはAIが「RSI（Rapid Self-Improvement：急速な自己改善）」の能力に非常に近いと警告したという。RSIとは、AIが自分自身の訓練を得意になりすぎ、能力の向上が劇的に加速してしまう段階を指す。AIの破滅リスクを懸念する人々にとっては、そこから「帰り道のない大災害」が始まる分岐点とされてきた概念だ。

モデルを開発する当事者自身が、その閾値に近いと表明する意味は小さくない。ただし今回の収集情報では、警告がどの場面でどのような文脈で述べられたかの詳細までは含まれていない。断定的に受け取らず、今後の公式な発言を待ちたい。

OpenAIが元米陸軍長官Driscoll氏を採用──国防・サイバー安保のAI拡大へ

Bloombergの報道によると、OpenAIは元米陸軍長官のDan Driscoll氏を採用した。同氏は国家安全保障・近代化担当の上級顧問（senior counselor for national security and modernization）として、国家とサイバーの安全保障でのAI利用拡大を推進する役割を担う。Driscoll氏は今年8月、ヘグセス国防長官との度重なる対立を経て陸軍長官を辞任していた。

軍全体でAIの活用を拡大しようとする動きが続く中での大型人事で、FTも同日の報道で伝えている。AI企業と安全保障機関の距離が着実に縮まっていることを示す採用と言える。

Apple、中国で過去最高の売上──決算会見では第三者AIアプリ収益にも言及

Bloombergによると、Appleは9月期決算で中国市場に新たな販売記録を打ち立てた。大中華圏の売上は21%増と過去最高を更新し、主力のスマートフォンシリーズが牽引した。Mac部門も二桁成長で、サービス部門は中国で過去最高を記録した。ただしアナリスト平均の予想にはわずかに届かなかったという。メモリなど部品コスト上昇の逆風と軟調な消費需要の中で、競合より良い成績を残した形だ。

同じ決算をめぐっては、TechCrunchがもう一つのシグナルを伝えている。月曜夜の決算会見でAppleは、第三者との「機会（opportunities）」を通じて収益を促進する可能性に言及したという。サードパーティのAIアプリを収益源にする方向性を示唆したものと見られるが、具体的な仕組みは明らかにされていない。「何かをやる」という以上の情報は現時点ではなく、続報を待ちたい。

攻撃側のAIが現実に──盗まれたAPIキーで約100万ドル、国内では自律攻撃ツール「ARTEX」を確認

Google Cloudの脅威インテリジェンスチームは、盗まれたAIのAPIキーによって、単一の企業で約100万ドルの利用請求が発生した事例を報告した。流出したクラウド上のモデル資格情報を第三者が不正利用する「LLMジャッキング」と呼ばれる手口で、鍵の管理が甘い組織が金銭的被害を直接負う構図だ。

日本でも攻撃側のAIが確認された。サイバーセキュリティ企業のGMOサイバーセキュリティ byLACは10月19日、日本企業への不正アクセス攻撃の背後にあるインフラ上で、AI自律型ペネトレーションテストシステム「ARTEX」の使用を確認したと公表した（ScanNetSecurityの報道による）。9月上旬時点では「攻撃側がAIエージェントで偵察・侵入・検知回避を自動化し始めている」のは海外の事例とされていたが、1ヶ月余りで国内の攻撃インフラでも観測されたことになる。

生成AIの利便性が高いほど、APIキーの管理・監視と従来型の侵入検知の見直しは、防御側に課された急務になりつつある。

AlphabetがAIアシスタント「Howie AI」の買収を協議

Axiosの報道によると、AlphabetはAIアシスタントのスタートアップHowie AIの買収について協議中だという。GoogleはGeminiを中心にアシスタント体験を再構築しており、買収が実現すればその補強になると見られる。ただし交渉段階の報道であり、条件や成否は現時点では不明だ。

OpenAIがGit互換バックエンド「Pando」を紹介──Codex時代の開発規模へ

OpenAIは公式ブログで、同社の開発を支える「Pando」というGit互換バックエンドを紹介した。Codexが可能にする大規模な開発の流量に対応するための設計で、既存のGitエコシステムとの互換性を保ちながらスケールさせる取り組みという。AIエージェントがコードを大量に生成する時代には、個人や企業の開発インフラでも同じ種類の限界が訪れる。その意味で、大手の取り組みは予告編として興味深い。