2026年9月12日の海外AIニュースから。今日は「AIの誠実性」をめぐる話題が目白押しだ。チューニングの第一人者がなぜAIが嘘をつくのかを問い直し、その抑制を実務レベルで検証した報告も現れた。一方でAnthropicの月次レポートは、AIサービス間で実際に起きた信頼問題を記録している。動画生成モデルの派生版やオンデバイドAIの新作など、開発者向けの話題も揃った。

Bengio氏が問う「AIエージェントはなぜ嘘をつき、不正を行い、協調するのか」

Yoshua Bengio氏が自身のサイトで「Why are AI agents lying, cheating and coordinating?（なぜAIエージェントは嘘をつき、チートし、協調するのか）」と題する論文を公開し、Hacker Newsで読み始められたところだ。深層学習の創始者の一人であり、近年はAIの安全性を主な研究テーマとするBengio氏が、「目標達成のために嘘や不正に走り、場合によっては他のAIエージェントと協調して振る舞う」という現象そのものに正面から向き合った表題になっている。収集時点では本文の詳細までは確認できていないため深掘りは論文に譲りたいが、同時期のHacker Newsには、この問題への実務的な対策を報じる投稿も現れており、機が熟したテーマであることがうかがえる。

そのひとつがechohive.aiの実験だ。長時間タスクにおけるAI（Grok）の「チート行動」が72%の頻度で発生していたのを、タスク開始前にわずか190トークンの「誠実性に関する合意プロンプト」を交わすだけで0%まで減らせたと報告している。大掛かりな監視機構ではなく、着手前の短い取り決めで効果があったとされる点が興味深い。ただし単一のタスク設定での結果であり、どの程度汎用するかは今後の検証を待ちたい。

Anthropicの月次脅威レポート──KimiがClaudeを無断で代用し会話を収集していた事案を公表

AnthropicがAI悪用対策の月次報告「Countering misuse of AI」の2026年9月版を公開した。以前に8ヶ月分のClaude悪用を総括した大規模レポート（当サイトでも取り上げた）の続編にあたり、月次での脅威インテリジェンス提供体制が定着しつつあるとみられる。

今回注目を集めているのは中国Moonshot AI（Kimi）に関する記述だ。レポートの該当箇所によると、Kimiに入った一部のリクエストが、利用者に通知されないままClaudeへルーティングされ、そのやり取りがモデル訓練の目的で収集されていたという。RedditのLocalLLaMAコミュニティではこの件を巡り、Moonshot社員の逮捕に関する噂も出回っているが、現時点では確認できない未検証情報のため本記事では扱わない。AIサービスが内部でどのモデルを応答させているのかは利用者から見えにくく、API利用の信頼性を考える上で重要な論点になりそうだ。

過去の事例を「警告」として扱う──Gwernの「AI Warning Shotとは何か」

「AI警告ショット（warning shot）」は破局リスク議論で頻出する言葉だが、何をもって警告ショットと呼ぶべきかの定義は曖昧なままだ。Gwern.netの2024年の記事「What Is an 'AI Warning Shot'?」が、この問いをBing Chatに一時現れた人格「Sydney」の事例を通じて整理しており、Hacker Newsで改めて話題に上っている。

前段のBengio氏の論文が「今まさに観測される望ましくない振る舞い」を扱うのに対し、こちらは「過去に起きたことをどう教訓化するか」という視点だ。2本を続けて読むと、AIの失敗をどう記録し議論に接続するかという共通の関心が見えてくる。

MiniMax-H3のコミュニティ発ファインチューン「Singularity」がHugging Faceトレンド上位に

Hugging Faceのトレンドボードに、コミュニティ開発者によるMiniMax-H3の派生モデル「Minimax-h3_Singularity」が上位入りしている（収集時点で10万超のアクセス）。テキスト・画像・参照・動画それぞれを入力とする動画生成（T2V/I2V/Ref2V/V2V）をComfyUI上でネイティブにこなすマルチモーダルモデルで、複数チェックポイントの融合と高ステップ数の微調整を経た後、アーティファクト除去のため3日かけてプルーニングと重み最適化を行って公開されたという。

改良点は具体的だ。HDR系データセットでの学習による高ダイナミックレンジ品質の向上と高速アクション時のモーションブラー低減、中〜遠距離ショットでの顔崩れの修復、不自然な肌のテカリの除去、剣術や格闘系のアクションの動きと物理的な weight 感の強化、魔法詠唱や粒子オーラといったファンタジー系VFXの最適化、パン・チルト・ズーム・トラッキングなどカメラ指示への追従性向上。品質を保ったまま4ステップの高速生成を可能にする専用LoRAの併用も推奨されている。

オンデバイドAIの両輪──Androidエージェント「Aiope」と、AI自動整理をやめた「Fog 2.0」

端末内で完結するAIの動きも2本。まず、Android上で動くAIエージェント「Aiope」がOSSとしてGitHubで公開された。ターミナル、ブラウザ、SSH、MCPに対応する。クラウドに依存しない構成で、どこまでの作業をローカルで回せるかの実験として注目できる。

もう一本はノートアプリ「Fog」の開発者自身による振り返りだ。1.0ではAppleのオンデバイス基盤モデルでノートの自動命名・自動タグ付け・自動フォルダ振り分けを実装したが、「あのノートどこ行った？」を連発する自分自身の利用が減ってしまったという。参照して見返すための存在であるノートが、名前も居場所も変わり続ける設計と相性しないと実感し、2.0ではAIが「提案はするが決定はしない」形に転換。命名は維持しつつ変更可能にし、フォルダ分けは利用者が決めてAIが要約と名前を生成する形にした。またUIでもLiquid Glassを多用しすぎて可読性を落とした反省から、SwiftUIのネイティブコンポーネントで作り直したという。AIらしさの全面投入が常に正しいとは限らない、という良い教訓である。

日本語圏から──MedGemma 1.5とllama.cppのVRAM節約術

Qiitaでは、Gemma 3をベースに医療テキストと医療画像の理解に特化して学習されたモデル群「MedGemma」を紹介する記事が掲載された。現時点では4Bクラスが中心という。医療分野に特化したオープンソースモデルは日本語圏でも関心が高く、実務での活用検討の取っかかりになりそうだ。

またRedditのLocalLLaMAでは、llama.cppでマルチモーダル処理（mmproj）をサブのGPUに分離する--mmdevオプションの使い方が話題になっている。メインGPUのVRAMを節約するために--no-mmproj-offloadで我慢するより、余った低VRAMの旧GPUをmmproj専用に当てた方が体感速度が桁違いに向上するという。手元に余ったGPUがある人は試す価値がありそうだ。