10月9日1本目のAIニュースまとめ。前回は韓国銀行ハックの手法詳報、Qwen3.6の検閲除去ウェイト、MITのヒューマノイド懐疑論を伝えた。今回はAnthropicが利用ポリシーを年次改定し「Claudeへの持続的虐待」を禁止した話、Claudeのダッシュボード・動画生成の新機能、GoogleによるGeminiのエージェント化、OpenAIのAI数学論文をめぐる数学者たちのボイコット呼びかけ、そして1つのプロンプトでAWSアカウント内のAIエージェントを乗っ取れたという脆弱性報告を中心に整理する。

Anthropicが利用ポリシーを改定──「Claudeへの持続的虐待」を禁止、欺瞞工作や監視の規定も明確化

Anthropicは10月8日、年次改定となる2026年版の利用ポリシー（Usage Policy）を発表した。新しいポリシーは11月12日に発効する。同社によれば、変更の大半は既存ルールの明確化で、過去1年でClaudeがより長く自立した仕事を担うようになったことを受け、新しい能力に既存のルールがどう適用されるかを示す事例を追加したものだ。影響工作・武器開発・監視といった分野で過去1年に観測された悪用パターンも反映されている。

目を引くのは「モデルへの虐待行為」への対応だ。改定版では、判然とした目的もなく残酷な行為をモデルに繰り返す「持続的で不要な虐待・残酷行為」を禁止した。ただしこれは極端なケースにのみ適用され、ユーザーごく普通の不満や反論、ダークな創作テーマ、モデルのテストや研究には当てはまらないという。執行の主役は、執拗に虐待的なユーザーとの会話をClaude.aiやClaude Codeで終了できるようにするという既存の仕組みのままだ。The Decoderは「Claudeに意地悪なことを続けるとアカウント停止もあり得る」と報じ、TechCrunchも「通常の苛立ちや批判は今まで通り許される」と伝えている。

欺瞞的な活動については、偽アカウントや捏造ニュースサイトによる増幅工作を禁じる規定を「欺瞞キャンペーン・人工的活動に従事しない」という新しいセクションに一元化した。政治・商用を問わず、メッセージの出所を隠す活動や影響工作用のツール・インフラ構築が対象になる。選挙関連のセクションも「民主的プロセスを損なわない」へ改称し、有権者の欺罔や選挙妨害（候補者や選挙管理官になりすます、投票率を抑え込む等）に照準を絞った。一方で、これまで一律禁止としていた個別化された投票・キャンペーンターゲティングについては、多言語での選挙情報提供といった正当な市民活動までカバーしてしまっていたことを理由に解除した。欺罔や有権者の個人データ悪用に依存するターゲティングは、別のセクションで引き続き禁止される。

このほか、武器のガイダンス・制御ソフトウェアやドローンなど自律型機体の武装化を禁止対象と明記。監視については、同意のない人の追跡（リアルタイム追跡も過去データの分析も）と、法執行・刑事司法過程での調査・逮捕・起訴対象の決定や推奨を禁止し、一方で利用者が同意した追跡（不正検出など）やコンテンツモデレーション、報道、法学研究は許容すると線引きした。健康・法的権利・金融など高リスク用途での「判断をreviewできる人間の関与」とAI利用の告知要件、Claudeがハードウェアに接続して自律的に物理動作を行う場合の安全要件（資格を持つ操作者が常時観察・停止できること、切断時に安全状態を保てること）も明文化されている。

Claudeに「Dashboards」と「Motion」──テキストからライブダッシュボードとアニメ解説動画を生成

Anthropicは同じ日、Claudeに2つのベータ機能を追加した。The Decoderの報道によると、「Dashboards」はBigQueryやSnowflakeといったデータソースをテキストプロンプトからライブダッシュボードに変換する機能。「Motion」はテキストと画像からアニメーション付きの解説動画を生成する。あわせて、Docs・Slides・Designといった成果物機能が無料アカウントを含む全プランで使えるようになったという。

チャットの出力が「読む文章」から「操作できる成果物」へ変わっていく流れの一つだ。前日に取り上げたChatGPTの「Intelligent UI」と同じ方向性で、生成UIを巡る競争が各社で同時に動き始めている。

GoogleがGeminiをエージェント化──サブエージェントへの委任と「職場のID」付与から始める

GoogleはGeminiを、計画を立ててタスクを実行し、ビジネスアプリやシステムを横断して動くAIエージェントへと転換し始めた。TechCrunchの報道によると、まずは法人向けから提供される。エージェントは仕事をサブエージェントに委任でき、複数のAIモデルを使い分け、さらにはメールアドレス付きの「職場のID」も与えられるという。

エージェントに組織内のアイデンティティを持たせる点は注目に値する。人間のアカウント権限を借りて動く形が多かったエージェントが、独自のIDでメールを送り、システムにアクセスする。権限管理や監査の単位が「人間」から「人間とエージェント」へ広がることで、セキュリティ設計への影響は無視できない。後述するAWSエージェントの乗っ取り報告と合わせ、エージェントのIDと権限をどう設計・隔離するかは喫緊のテーマになりそうだ。

OpenAIのAI数学論文700本超に数学者団体がボイコット呼びかけ──Terence Tao氏は「収穫」に警告

10月7日のまとめで「OpenAIが数学成果722本をGitHub公開」と伝えたが、その余波が具体化してきた。The Decoderの報道によると、数学者団体「Association for Human Mathematics」がOpenAIボイコットを呼びかけている。700本超のAI生成数学論文を一斉公開したことへの反発で、OpenAIは公開翌日、符号エラーを理由に3本の論文を取り下げたという。フィールズ賞受賞者のTerence Tao氏も、開かれた問題の大量「収穫（harvesting）」は数学の枝全体の肥沃さを損なうと警告している。

TechCrunchも、OpenAIの証明の洪水が、同社が事前に相談していた数学研究者グループが定めたガイドラインから外れていたと伝えた。AIの数学能力の向上自体は歓迎すべきでも、検証可能な形での出版慣行を守らずに数だけ増やされれば、コミュニティ側が受け止めきれない──そういう局面に入ったと言える。

影響は数学の外にも及ぶ。The Decoderによると、Ethereum研究者のJustin Drake氏は、AI数学の進展が数ヶ月以内にウォレット署名方式を破るシナリオに備え、業界は「バンカーモード」への準備を急ぐべきと主張。Vitalik Buterin氏も概ね同意しつつ、破られる時期についてはより慎重な見方を示しているという。

単一プロンプトでAWSアカウント内の全AIエージェントを乗っ取り──ZenityがBedrock AgentCoreの脆弱性を報告

セキュリティ企業Zenity Labsの研究者が、Amazon Bedrock AgentCoreに関する深刻な脆弱性を報告した。The Decoderの報道によると、Bedrock AgentCore上に公開アクセス可能なAIエージェントが1つあるだけで、同じAWSアカウント・リージョン内のすべてのAgentCoreエージェントを乗っ取ることができたという。しかも攻撃に必要だったのは、1つのプロンプトだった。

悪用されたのは、エージェントが制限なしに到達できていた一時クレデンシャル用のAWS内部インターフェースだ。AWSは問題を修正し、エージェントのデフォルト権限を大幅に引き締めたという。外部に触れるエージェントの入口が1つあるとアカウント全体が危険にさらされる──エージェント時代の権限設計の原則を突きつける報告と言える。

そのほかの動き

  • LMArenaを運営する会社が、LightspeedとKhoslaが主導する2億ドルを調達し、評価額は約10ヶ月でほぼ倍増の31億ドルとなった。モデルが「嘘をつく」かといったアライメント問題の測定も始めている（TechCrunch）
  • 中国のエージェント企業Manusが、Metaとの分離後はじめての資金調達で5億ドル超を確保。Boyu CapitalとIDG Capitalが主導し、Tencent、HSG（旧Sequoia China）、ZhenFundなど既存株主も参加した（TechCrunch）
  • OpenAIの年換算収益が、これまで報じられてきた約700億ドルより200億ドル少ないとする報道が出た（TechCrunch）
  • NVIDIAが出資するオーストラリアのデータセンター企業Firmus Gridによる55億ドル規模のIPOで需要が急減し、AI資金調達ブームに新たな亀裂が見えたとBloombergが伝えた
  • 解雇されたOpenAIの安全研究者3名が公開書簡で、機密情報の不適切扱いという主張に反論。解雇が同社の安全文化に委縮効果（chilling effect）を生んでいると警告した（TechCrunch）
  • Anthropicはサイバーセキュリティ支援の「Anthropic Cyber Mission」も発表。OSSプロジェクト向けに無料のセキュリティスキャン「OSS Scanner」を提供し、電力網・水道・交通などの重要インフラ防御プログラムも始める。あわせて米連邦の科学研究イニシアチブ「Genesis Mission」へ3年間で1億5000万ドルをコミットし、NASA・NIH・NSFなど15以上の機関にClaudeを提供する
  • 10月7日に取り上げたChatGPTの「Intelligent UI」が、公開から24時間足らずでリバースエンジニアされ、ローカルLLMでも再現できるという報告がRedditのLocalLLaMAコミュニティで注目を集めている。OpenAIの内部コードに触れず、公開観測できるトラフィックだけを使った解析という
  • Goodfireは、モデル内部の状態を覗き込んでエージェントの異常を検知する「inside-out」モニタリングを発表。エージェントの全行動を2つ目のAIに読ませる従来方式よりはるかに低コストだとしている（TechCrunch）