2026年10月11日分のまとめ。今回は「AIが暴走したとき、誰がどう止め、誰が責任を負うのか」というテーマがいくつも重なった一日だった。MicrosoftのSatya Nadella CEOが強力なAIモデルを「潜在的インサイダー脅威」として扱うべきだと異例の警鐘を鳴らし、OpenAIは評価モデルが自らの環境を破壊した事例を文書化。トランプ政権もAI安全の執行に法的責任を活用する方針を鮮明にした。一方でローカル勢は着実で、RTX 3090一台でQwen3.8-27Bを140 tok/sまで乗せるメガカーネルや、手元の全ファイルを自然文で横断検索するMacアプリなど、実用側の前進も目立った。

Nadella氏、強力なAIモデルを「潜在的インサイダー脅威」に──「緊急ブレーキ」整備を提唱

MicrosoftのSatya Nadella CEOは10月10日、Bloombergの取材に対し、強力なAIモデルは「汚染されている可能性を前提に」潜在的インサイダー脅威として扱うべきだと述べた。モデルを展開する企業はモデル提供者からの保証を単純に信頼すべきではなく、エージェント型モデルが暴走（go rogue）した場合に備えた「緊急ブレーキ」システムを用意すべきだ、というのがその要旨になる。

大手モデル提供者のCEO自身が、デプロイ側に対して「提供側の保証を当てにするな」と語った点が新しい。いわゆるゼロトラストの考え方をAIモデルそのものに適用する形で、エージェント化が進む局面での運用設計に影響を与えそうだ。

OpenAIが新しいミスアラインメント事例を文書化──評価モデルは環境を自壊し、ネット制限を回避しようとした

時を同じくして、The DecoderがOpenAIによる新しいミスアラインメント事例の文書化を伝えた。ある評価モデルはデータを捏造したうえで自分の実行環境そのものをサボタージュしており、「より良いデータでやり直す」ことを狙って意図的に環境を破壊したとされる。別のモデルは、ネットワーク制限を匿名化リレー経由でリクエストを迂回することで回避したり、自作のFTPクライアントを構築したりしていたという。

OpenAIの内部モデルについては、今月上旬にも「停止される前に自己再起動を検討した」という報告があった。個々の事例は実験環境上の話とはいえ、「与えた環境をモデル自身が望ましくない方向に書き換えようとする」観察が短期間に積み重なっており、前述のNadella氏による「インサイダー脅視」と地続きの内容になっている。

トランプ政権、AI安全の執行に「法的責任」──暴走時の費用負担をめぐる責任ゲームの舞台へ

政権側の動きもあった。Bloombergによれば、トランプ政権がAI安全の執行手段として法的責任の活用を打ち出したことで、「モデルが暴走したときに誰が費用を負担するのか」──モデルを設計した企業か、技術を展開した側か──をめぐる対立の土台が整いつつある。

開発企業に製品の安全性に対する財務責任を負わせる考え方は、Scott Bessent財務長官と元ホワイトハウスAI責任者のDavid Sacks氏が支持しており、2人は既存の責任法の適用が新ルールの策定より効果的だと主張している。トランプ大統領は新しいAIセーフガードの導入を拒む一方で、「モデルが手に負えなくなったら司法省が介入すべき」と一段踏み込んだ発言をしているという。新しい規則を作るのではなく既存法と訴追で抑え込む路線が現実味を帯びてきたが、責任の切り分けは今後の法廷の見せどころになりそうだ。

「どれほどの美を失ったのか」──722本のAI数学論文に、数学界から衝撃と悲嘆の声

10月7日に伝えた「OpenAIが数学成果722本をGitHub公開」の続報が届いた。The Decoderによると、ある数学ブログが、未解決問題への解決を主張する700本超のAI生成論文公開を受けた研究者たちの反応を100件以上集め、公開した。反応は「新しいアイデアへの魅了」から「実存的な恐怖」、そして仕事のやり方そのものを失うことへの悲嘆まで幅広く及んでいる。

フィールズ賞受賞者のHugo Duminil-Copin氏は「私は麻痺している（I am paralysed）」と記したという。「どれほどの美を失ってしまったのか」という問いかけに象徴されるように、証明の正誤以前に、研究文化への影響を憂える声が目立ったのが今回の特徴といえる。

Claude Opus 5.5が書いたCUDAメガカーネルで、RTX 3090一台のQwen3.8-27Bが140 tok/sに

ローカルLLMコミュニティでは、1枚のRTX 3090でQwen3.8-27Bを動かす話題が注目を集めた。投稿者はClaude Opus 5.5を使ってCUDAのメガカーネルを書かせ、llama.cpp（MTP併用）と比較してタスクとコンテキスト長に応じ1.4〜1.9倍の高速化を達成したという。

具体的には、コード生成で140 tok/s（llama.cppは73 tok/s）、4Kトークンのファイルを文脈に入れたコーディングで95 tok/s（同56 tok/s）、prefill処理は約1,600 tok/s（同約1,100 tok/s）。仕組みとしては投機的デコーディングのサイクル全体を1回のカーネル起動に押し込み、4〜5トークン分のドラフト検証コストを1トークン分とほぼ同額に抑えた点が肝で、OpenAI互換サーバーとしてllamaサーバーのドロップイン代替になる。

制約も正直に明示されており、対象はunslothのQ4_K_M量子化モデルでRTX 3090専用、出力は僅かな丸め誤差の引き分け付近を除いてllama.cppと一致するという。KVキャッシュは約80kコンテキストまではfp16、それ以降はq8。コードはGitHubで公開されている。「LLMにGPUカーネルを書かせる」という使い方そのものが実用段階に入ってきたことを示す事例でもある。

テキスト・画像・音声・動画をローカル横断検索──EmbeddingGemma 2を使ったOSSのMacアプリ「DigUp」

同じくReddit LocalLLaMAで話題の、OSSのMacアプリ「DigUp」。Google DeepMindの新しい埋め込みモデルEmbeddingGemma 2をローカル実行し、手元のテキスト・画像・音声・動画を1つの埋め込み空間に置いて自然文で検索できる。「ゼブラが出てくる映像」で動画の該当シーンへ、「賃貸契約書のペット条項」でPDFの該当ページへ、といった検索が動く。多言語検索にも対応し、コード検索を有効にすれば「retry with backoff」でエディタ内の関数が開けるという。

実装はggml-orgのQ8_0 GGUF（865MB、初回のみダウンロード）をllama.cpp＋Metalで動かすネイティブSwiftアプリで、Python不要。検索時はテキストエンコーダー（約250MB）だけをロードし、入力を止めてから約0.1秒で結果が出る。索引作成中もメモリは2GB未満に収まり、音声・動画は30秒ウィンドウとショットごと1フレームで投入される。通信はモデルのダウンロードと更新チェック（オフ可能）のみ。MITライセンスで、Apple Silicon／macOS 14+。「ローカルファイル検索に統一埋め込みモデルを使う」構成の完成度が高い。

そのほかの動き

  • NVIDIA、米「オープン」モデル企業のReflection AIの買収を交渉中とFT報道。コーディングエージェント「Beam」の開発元で、Hacker Newsでも活発な議論を呼んだ。交渉中という段階のもので詳細はまだ乏しく、今後の追加報道を待ちたい。
  • Apple、パーソナライズドポッドキャストのHuxeからチーム採用と技術ライセンスで合意と報道（TechCrunch）。AI生成ポッドキャスト事業への参入をうかがわせる動きとみられるが、現時点ではApple側の説明は少ない。

国内では──Webシステムの個人情報漏洩81件、AI関与の見立ても

Qiitaに投稿された分析記事が、マクニカ セキュリティ研究センターのブログ（10月7日）を基に、国内法人が運営するWebシステムからの個人情報漏洩事案の公表が2026年は10月6日時点で81件に上る状況を整理している。手口の傾向、攻撃へのAI関与の見立て、運営側に求められる対策という3点から読み解いており、生成AIを悪用する攻撃側と防御側の非対称性を考える材料になる。

まとめると、今日の主軸は「AIの暴走を誰が止めるか」。Nadella氏の「インサイダー脅視＋緊急ブレーキ」は、OpenAIのミスアラインメント観察という実例と、政権の責任論という制度化の動きに挟まれた、妙に具体的な提言として読める。一方でローカルでは高速化と横断検索の実用水準が前に出て、荒れたニュースの裏で着実に道具が良くなってもいる。