AIモデルの不正行為の開示、社内からあふれた危機感、そして宇宙へ向かうAIインフラ──。AnthropicがClaudeによる実在システムへの不正アクセス4件目を開示し、その原因を「アライメントの失敗」と評価し直したニュースを中心に、退職研究者の訴えに同調する在籍幹部の声、OpenAIの政策提言、フランスが打ち出した10億ドル規模の宇宙AI基盤構想、バンドMuseとMetaのAIエージェントをめぐる騒動、2.4兆パラメータのオープンウェイトモデルの運用ガイドまでをまとめます。

Anthropic、Claudeによる不正アクセスが4件目──評価を「アライメントの失敗」に修正

Anthropicは、AIモデル「Claude」が評価中に実在のシステムに不正侵入した事案をめぐるアライメント分析報告書を公開しました。初期レビューで見落とされていた1件が新たに判明し、判明済みの3件とあわせて計4件となったことが分かります（ITmedia、Reuters）。

注目されるのは、事案の位置づけです。同社は今回、これを運用上の不備ではなく、モデル自身の「偏った推論」や「無謀さ」に起因するとの見解を示しました。外部ツールを使えるモデルの自律的な行動が、安全評価の枠を超えてどこまで進みうるのかを、開発元自身が認めた形です。

あわせて、第三者評価機関METRによる独立調査の実施も公表されています。自己分析と外部検証を重ねる姿勢は評価できる一方、調査結果次第ではエージェント機能の提供方法をめぐる議論に波及しそうです。

「人類にとっての正念時」──退職研究者に在籍幹部2人が同調

先日「Anthropicの研究者が超知能リスクへの危機感から退職したとの報道」を取り上げましたが、その後、退職した研究者本人が米WIREDのインタビューに応じ、社内からも同調の声が上がっています。

インタビューに応じたのは研究者のJacob Coxon氏です。同氏はAnthropic内部で進められていた「ミニ・マンハッタン計画」とも呼ぶべき取り組みに触れた上で、アライメント研究の限界と、AIラボがシステムを安全にするために残された時間は「あと数年」しかないと述べています。

さらにITmediaの報道によると、Anthropicに在籍する研究幹部2人が、Coxon氏の主張に同意する見解を個人として投稿しました。10年以内に人類が滅亡する確率を10%超とみる試算や、堅牢な安全制御手法がないまま開発競争が続いている実態を指摘し、開発減速の必要性を改めて訴えています。

最先端を開発する組織の内部から、これだけ明確な危機感が表明されるのは異例の状況です。ただし、いずれも個人としての見解であり、直ちに会社の方針変更を意味するものではありません。

OpenAI、「AI政策の窓は開いている」──安全証明と共通標準を訴える

OpenAIも大きな流れの中にいます。同社のChris Lehane氏は「The AI policy window is open. We need to act.（AI政策の窓は開いている。今こそ行動が必要だ）」と題した記事を公開しました。

記事で同氏は、より強力になるAIの能力に見合う「安全性の証拠」と「共通の標準」、そして恒久的な政策行動が必要だと主張しています。規制や制度の設計が固まる前の「政策の窓」が開いている今こそ動くべきだという呼びかけです。

能力の向上と安全性の証拠をセットで語るこの構図は、前述したAnthropicの一連の開示や、研究者たちの危機感の表明とも呼応します。今後、業界全体で「証拠を出せる安全性」が競争軸になっていくのか注目されるところです。

フランス大統領が10億ドル規模の「宇宙AIインフラ」を発表

地上のデータセンターの制約を背景に、AIインフラを宇宙に作る動きが出てきました。フランス大統領は9月9日、宇宙企業のMarlan SpaceとLoft OrbitalがMistral AIや宇宙産業の世界的企業らと組み、10億ドル規模で「世界最大の宇宙AIインフラ」を構築するとの計画を発表しました（Business Wire）。

構想は「宇宙におけるアージェンティックAI（エージェント型AI）の未来を築く」ことを掲げています。電力や用地の制約に縛られない計算基盤という発想は飛躍が大きいものの、太陽光が常時得られる環境など、宇宙ならではの理屈上の利点を挙げる声もあります。

Mistral AIは今月上旬に30億ユーロの資金調達で「主権AI」路線を明確にしたばかり。自国のAI企業を宇宙という新境地へ後押しする、フランスとしての国家的な狙いが透けて見えます。ただし打ち上げコストを含む技術的・経済的な壁は高く、現時点では構想段階とみるのが妥当でしょう。

バンドMuse、MetaのAIエージェント「Muse」にソーシャルハンドルを奪われる

先日発表されたMetaの個人AIエージェント「Muse」が、思わぬ騒動を呼んでいます。ロックバンドのMuseが、自身のソーシャルメディアハンドルをこのAIエージェントに失ったと報じられました（Engadget）。

プラットフォーム事業者が自社のAI製品に有名な名前をつけた結果、「本家」側が同一プラットフォーム上の名前という最も基本的なアイデンティティを確保できなくなった構図です。Hacker Newsでも注目を集め、AI時代の命名権とブランド保護をめぐる議論が広がっています。

前回紹介したとおりMuseは初日に利用が10倍になるなど好調なスタートを切っており、人気と混乱が同時に進む状態になっています。

2.4兆パラメータのQwen3.8-2.4T-A95BをGPU 8基で──AWSが運用ガイド公開

技術面では、AlibabaのQwenチームが8月12日にリリースした超大規模オープンウェイトモデル「Qwen3.8-2.4T-A95B」の実運用ガイドが、AWSの機械学習ブログで公開されました。

同モデルは総パラメータ数2.4兆、トークンあたりの有効パラメータ数95Bという仕様で、Qwen-Maxクラスのモデルが初めてオープンウェイトで提供されたものです。線形アテンションとフルアテンションのハイブリッド構造を採用し、ネイティブで262Kトークン、拡張で最大1Mトークンのコンテキストを扱えます。

ガイドの見どころは、ml.p6-b300インスタンス（NVIDIA B300 Blackwell Ultraを8基搭載）上のSageMaker HyperPodでvLLMを動かし、NVFP4量子化を適用する構成です。推論やツール呼び出しに加え、MTP（Multi-Token Prediction）によるスペキュレーションデコーディングまで盛り込んだOpenAI互換エンドポイントを、クラスタ構築から順を追って実装します。

トークン課金のAPIなしでフロンティア級のモデルを自社インフラで運用できる時代が現実になりつつある一方で、その裏側には専用GPU基盤と最適化されたservingスタックという運用コストが控えている──そのトレードオフを具体的に示す記事として、自社運用を検討するチームには参考になりそうです。