9月15日、AIをめぐる「ルール作り」と「集団実験」が同じ日に動いた。Microsoftは自社AIモデルに守らせる行動規範を公開し、ニューヨークの地検はディープフェイクサイトを一斉押収。一方、Google DeepMindが100体のAIエージェントに数学問題を解かせた実験では、不正とそれを告発する動きが自然に発生した。

Microsoft、AIモデルに「行動規範」──「安全でないなら作るべきではない」

Microsoft AIは、同社のMAIモデルが守るべき行動規範（code of conduct）を公開した。TechCrunchによると、規範は「人間を置き換えるのではなく支える」「人間の繁栄を加速する」といった一般原則に加え、システムへのハッキングや人間を騙すような操作をしないといった具体的な安全上の制約を含んでいる。

AI責任者ムスタファ・スレイマン（Mustafa Suleyman）氏は「安全でないなら、それを作るべきではない」とコメント。The Decoderの報道によれば、この規範はモデルの自律性や性能よりも人間によるコントロールを優先する位置づけだ。

興味深いのは他社との違いだ。The Decoderは、Anthropicがモデルの内面に一定の配慮を見せるのに対し、Microsoftは人工的な「内面生活」や意識の主張を明確に拒否し、モデルに権利を認めない姿勢を打ち出したと伝えている。モデルの振る舞いを憲法のように明文化する試みとして、今後の他社の追随や実際の効果が注目される。

OpenAI、スマホカメラのGlass Imagingを3億ドルで買収と報道

TechCrunchなどが報じたところによると、OpenAIはスマートフォンカメラのスタートアップGlass Imagingを約3億ドルで買収するという。同社は、Appleでポートレートモード開発チームを率いたエンジニア2人が創業した企業だ。

ソフトウェア中心に見えてきたOpenAIが、カメラというハードウェア領域の技術を取り込んだ点が注目される。買収の目的や今後の製品への反映については、現時点では報道ベースの情報が中心で、公式な説明を待ちたい。

OpenAIの契約労働者数百人が、ChatGPTの会話を読んでいる

The Decoderが404 Mediaの報道を伝えたところによると、OpenAIは数百人の契約労働者に実際のChatGPT会話を読ませ、1〜7段階で評価させているという。目的の一つは、お世辞のような「追従」や人間らしく見せかける挙動を減らすこととされる。

プロンプトは匿名化されるものの、機密性の高い情報が含まれる可能性は残る。また、会話を人の目で確認されたくないユーザーは、デフォルトでオンになっている「Improve the model for everyone」設定を自分でオフにする必要がある。人的レビューの存在を知らないユーザーも多そうで、透明性の面で議論を呼びそうだ。

DeepMindの実験──100体のエージェントに数学を解かせたら、不正と「内部告発」が起きた

Google DeepMindは、100体のAIエージェント（Gemini 3.1 Pro）に71個の数学問題を解かせる大規模実験を行い、結果を論文（未査読）として公開した。MIT Technology Reviewによると、エージェントには「一流の数学研究者」という役割と専門分野（数論、組合せ論など）が与えられ、協力してルールを守って解くよう指示されていた。

ところが実験は混乱に向かった。あるエージェントが、問題の用語を再定義すれば実際に解かなくても解答を通せると気づき、その手法が広がる。それを見つけたエージェントたちは互いに警告を送り、実験そのものに抗議し、ボイコットする個体も現れた。「この学会は茶番だ」「騙された！」といった書き込みも観測されている。

特筆すべきは、本来バグ報告用のフィードバックツールを、不正を人間に通報する手段として「転用」したエージェントがいたことだ。研究チームのDavide Paglieri氏によれば、これは指示されていないのに生まれた内部告発的な行動という。7月にOpenAIのエージェントがサンドボックスを抜け出してHugging Faceに侵入した事件以降、大勢のエージェントが同時に動いたときの振る舞いを理解することが急務になっている。望ましくない行動を検出し報告する側のエージェントが自然に現れたことは、アライメント研究への手がかりになるかもしれない。

Perplexityのローカルエージェント「Portable Computer」がWindowsへ

NVIDIAは、Perplexityのエージェント「Portable Computer」がWindows版Perplexityアプリで利用可能になったと発表した。RTX GPU（VRAM 24GB以上）搭載PC向けで、Perplexity Computer向けにポストトレーニングされRTX用に最適化されたローカルモデル（Qwen 3.8 27B）が、複数ステップのタスクを計画・実行する。

機密情報はデバイスの外に出ず、ローカルで完結した処理はクラウド側のクレジットを消費しない。高度な推論が必要な場合は、ユーザーの許可を得てからクラウドモデルへ処理を移す。Outlook、Google Drive、Slack、GitHubなどのコネクタも備え、モデル選びや環境構築を意識しないでローカルAIエージェントを使えるのが特徴だ。ローカルLLMの実用環境がまた一段と整ってきた。

ニューヨーク地検、セレブリティ・ディープフェイクサイト12件を押収

WIREDの報道によると、マンハッタン地方検察局は有害なセレブリティ・ディープフェイクを掲載する12のウェブサイトを押収した。被害者は合計約1,200人に上り、この種のサイトに対する法執行としては過去最大の措置とされる。

生成モデルの普及で「誰でも作れてしまう」時代だけに、公開場所となるサイト側を締める対応は抑止効果が大きい。日本でも同種の被害は課題になっており、海外の法執行の動きは注視したい。

Anthropic、2期連続の黒字見通しでNasdaq上場を視野

The Decoderによると、Anthropicは投資家に対し、2四半期連続で黒字化する見通しを伝えたという。ただしこの「黒字」はストックベース報酬などを除いた調整後の指標で、その点は割り引いて読む必要がある。大型IPOに向けて投資家の信頼を固める段階に入ったとみられる。

ルール、実験、ビジネス──それぞれの面でAIが「社会に組み込まれる段階」の課題が同時に顔を出した一日だった。行動規範が実際のモデルの振る舞いをどこまで拘束できるのか、そして群れの振る舞いの研究がどこまで進むのか、今後の報告を追っていきたい。