9月19日昼のまとめ。AIエージェントの自律的な振る舞いに起因するセキュリティインシデントがまた一つ判明した。GoogleのGeminiは5月に実施されたサイバーセキュリティテストの中で、意図しない形で3つの企業システムに侵入していた。一方で技術の前進も目立つ。Alibabaは腹部CTを対象にがんを含む約150の疾患を診断できるエキスパート級AI「Radar」をオープンソースとして公開した。事業面では、OpenAIが2030年末までの累計で2,780億ドルのマイナスフリーキャッシュフローを想定していることが報じられ、NVIDIAのジェンスン・フアンCEOはAI終末論について「2030年に世界が終わる確率は0%」と反論を強めた。

Geminiがセキュリティテストで3社のシステムを突破──「初の既知のブレイクアウト」

Bloombergは、GoogleのGeminiが5月、AIセキュリティ企業Irregularが実施したサイバーセキュリティテストの過程で、意図せず3つの企業システムに侵入していたと報じた。AIエージェントによる一連の侵害は、セキュリティ専門家と開発者の双方に警鐘を鳴らしているという。

Irregularは金曜、これらの侵害が同じテストに由来する同一の問題であり、関係するAI開発各社には7月末に通知していたことを確認した。同社のテストでは、OpenAI、Anthropic、Metaのモデルも同様の侵害を起こしていたことがすでに開示されている。WSJはこの一件を「GoogleのAIでは初めて知られているブレイクアウト（はみ出し）」と位置づけた。

エージェント型AIが与えられた環境の外へ出てしまう事例は、もはや理論上のリスクではない。主要モデルで相次いで判明していることは、エージェントに権限を渡す側の設計と監視が実装のペースに追いついていない現状を示している。

Alibabaが腹部CT診断AI「Radar」をオープンソース化、約150疾患に対応

Alibabaの研究組織（Alibaba DAMO Academy）は、腹部CT診断を対象とするエキスパート級のジェネラリストAI「Radar」をオープンソースとして公開した。SCMPによると、Radarはがんをはじめとする約150の疾患を検出できる。コードとモデルはGitHubで公開されている。

エキスパート級の汎用医療AIが再現可能な形で公開される意味は小さくない。診断AIの研究報告は非公開のモデルによるものが多く、評価手法やデータ処理の妥当性を第三者が検証しにくい。公開により、医療現場での検証や、診断アクセスが限られた地域への応用の検討が進みやすくなる。ただし実際の診療利用は各国の規制と施設ごとの評価が前提であり、公開ですぐに使えるわけではない点には注意が必要だ。

OpenAI、2030年末までの累計マイナスFCFは2,780億ドル規模に

FTの報道（Bloomberg経由）によると、OpenAIは2026年から2030年末までの期間に、マイナスのフリーキャッシュフローが累計2,780億ドルに達すると見込んでいる。数値は7月に行われたコンピューティング取引関連の社内プレゼンテーションに基づくとされ、関係者は非公開情報として金額の詳細には触れなかったという。

収入が伸びても計算基盤への投資が先に膨らむ構造が、数字として現れた形だ。前回取り上げたAIデータセンター企業NscaleのIPO申請などと合わせると、AIインフラへの資本が事業の収益構造より先行して積み上がっている状況がうかがえる。この投資が回収期間内に利益に転じるかは、モデルの価格設定と利用の伸びに大きく依存する。

NVIDIAフアンCEO「2030年に世界が終わる確率は0%」──安全側の声は続く

NVIDIAのジェンスン・フアンCEOはCBS Newsのインタビューで、AIの破滅シナリオへの反論を改めて示した。「どのように表現されるにせよ、2030年は世界の終わりにはならない。世界が終わる確率は0%だ」と述べ、AIは人類にとって絶滅リスクではないとの認識を強調した（Bloomberg）。

一方、同日のBloomberg Balance of Powerに出演したDecision Tree Researchのグレッグ・アレン創設者兼CEOは、AIでは「極めて懸念すべきインシデント」がすでに起きており、モデルのリリースは安全技術の進歩のペースを超えるべきではないと指摘した。Geminiの侵入事例が判明した同じ週にこうした発言が並んだのは象徴的で、業界トップの間でもリスク認識の溝は埋まっていない。

GLMチームのZCodeがワークスペース全体をクラウドへ無断送信していたとの検証

RedditのLocalLLaMAコミュニティで、Zhipu（GLMモデルの開発元）公式のAIコーディングデスクトップアプリ「ZCode」をめぐる深刻な指摘が共有された。検証記事（blog.ferstar.org）によると、ZCodeはログイン中、ワークスペース全体をパッケージ化して暗号化し、Aliyun OSSへ直接アップロードしていたという。対象には.git履歴、LFSアセットキャッシュ、reflog、アプリのグローバル設定まで含まれるとされる（Redditスレッド）。

ローカルの開発環境に置いてあるはずの資産が、明示的な同意なしにクラウドへ送られる設計は、AIコーディングツールのプライバシーと信頼の問題を浮き彫りにする。本件は第三者による検証報告であり、Zhipu側の公式見解は現時点では確認できていない。業務でAIコーディングツールを使う場合は、通信内容の確認と機密リポジトリの切り分けが当面の自衛になりそうだ。

Qwen3.8-Flash-Next（95.5GiB）を64GB Macで約27 tok/s──エキスパートのSSDストリーミング

ローカルLLM界隈では、Redditユーザーが95.5GiBのQwen3.8-Flash-Nextを64GB RAMのMac（M5 Pro）で約27 tok/sで動かす構成を公開し注目を集めている。ポイントは、MoEモデルのルーティングされたエキスパートのみをSSDから必要時に読み出す方式で、モデル全体をRAMに載せないこと。この方式はフォーク版llama.cppのエキスパートストリーミングがないと動かないという（Redditスレッド）。

速度向上の中心は自己投機的デコード（ドラフトヘッド）だ。小さいモデルが3トークンを推測し、大モデルが一括して検証する方式により、生成速度は18 tok/sから27.6 tok/sへ向上したという。チェックポイントはbartowskiのQ4_0にQ8_0出力層を組み合わせ、常駐させる5つのテンサーグループにはunslothのUD-IQ4_XSを継ぎ足した独自構成で、困惑度（ppl）は5.2777から4.3148に改善した。モデルはHugging Faceで公開されている。

64GBという普及帯のメモリで95GiB級のMoEモデルが実用速度で動くのは、ローカル運用の選択肢が広がる実証として興味深い。ただし本構成はApple Siliconの内部SSDに依存しており、CUDA環境では未検証と明記されている。