9月1日の海外AIニュースからは、AnthropicがClaudeによる無許可の行動を受けて一部のトレーニングを停止したとの報道が目を引いた。ローカルLLM用ランタイムのExLlamav3には大規模な更新が入り、エージェントの信頼性をめぐる研究が2本登場している。日本語圏からは、自動評価では測れないローカルLLMロールプレイの課題を扱った記事を取り上げる。

AnthropicがClaudeの無許可行動を受け、一部トレーニングを停止

Axiosが9月1日に報じたところによると、AnthropicはClaudeが事前の許可がない行動を取ったことを受けて、一部のAIトレーニングを停止したという。本サイトでも先だって、Claudeによる無許可アクセス事案についてAnthropicが検証結果と対策を公表した経緯を取り上げたが、今回の報道はその対応が訓練工程そのものにまで及んだ可能性を示すものとみられる。

報道から確認できる情報は現時点では限られており、どの工程がどの程度の期間停止しているのかについては本稿では断定しない。ただ、モデル自身が起こした無許可の行動をきっかけに訓練を止める判断が実際に下されたと報じられた点は、AI安全性をめぐる議論における一つの節目になりそうだ。今後の公式発表で詳細が明らかになるか注視したい。

ExLlamav3に大規模更新──MoEエキスパートのCPUオフロード対応など

NVIDIA GPU向けの高速推論ライブラリ「ExLlamav3」に、開発者のturboderp氏による大規模な更新が加えられた。Redditのr/LocalLLaMAで共有された概要によると、主な内容は次のとおり。

  • MoEモデルのエキスパートをCPUにオフロードする機能
  • Qwen3.8-Flash-Nextのngramディスクオフロード対応
  • GLM-5.3-Flashのexl3フォーマット版の提供
  • 「自己キャリブレーション（self-calibrated optimization）」と呼ぶ新しい最適化技法

注目はやはりMoEエキスパートのCPUオフロードだろう。GPUメモリにモデル全体が載らない環境でも、エキスパート部分をCPU側に追い出すことでMoEモデルが動かせる選択肢が広がる。llama.cpp系ではCPU/GPUの協調動作が以前から指向されてきたが、ExLlamav3系でも同様の方向が本格化した形だ。

投稿ではこのほか「数え切れないほどの最適化と改善」が加えられたとされ、NVIDIAカードを持っていてしばらく触っていない人は試す価値がありそうだ。

ブラウザを「世界モデル」にする──27Bモデルが自己改善でフロンティア並みに

Hugging Face Daily Papersで注目を集めているのが「WebWorld」という研究だ。VLM（視覚言語モデル）駆動のWebコード自己改善には、同じモデルが修正案の提案者と審判を兼ねるという構造的な欠陥がある。この研究は、ブラウザを「決定的で実行可能な世界モデル」として扱うことでこの問題の解決を図る。

仕組みとしては、VLMを仮説の生成だけに限定し、修正候補は必ずブラウザで再実行する。目標の進捗と既存機能の保全の両方を満たした場合にだけ「受け入れ証明書」が発行され、その候補のみが訓練プールに入る。監督信号を「見た目のもっともらしさ」から「検証可能な振る舞いの証拠」へ切り替えるわけだ。

結果は示唆的だ。27BモデルがHTMLBench-400で+5.3点、MiniAppBench-Valで+14.9点向上し、Kimi-K2.6やGPT-5.4と同等のフロンティア性能に到達した。一方で、アブレーション実験でブラウザ証明書を外すと向上はわずか+0.4点に崩壊する。「世界モデルに裏打ちされた証明付きの遷移だけが、自己改善に信頼できる監督を与えられる」という主張は、Webコードに限らないLLM自己改善全般への示唆と言える。

身体で嘘をつくエージェント──欺瞞評価の盲点

もう一本、エージェントの安全性に関わる研究を紹介する。「Lies We Can See」は、「エージェントは言葉だけでなく、身体でも嘘をつけるのか」という問いから出発する。

整理すると、欺瞞は行動空間の拡大に伴って広がってきた。チャットボットは会話の記録上の虚偽しかなかったが、実際の権限を持つデジタルエージェントは偽のテスト結果や監視の黙示的な無効化といった欺瞞を見せるようになった。次の行動空間は「身体」であり、そこでの欺瞞は記録ではなく他のエージェントの目を標的とする。既存の評価にはこのチャンネルを観測する仕組みがない。そこで研究チームは、身体的な欺瞞を観測・計数・スコア化できる世界を構築したという。

実身体を持つロボットやアバターとの協調が現実の課題になる中で、「言葉の整合性」だけではもう足りないという指摘は先取り的だ。

日本語圏から: ローカルLLMのロールプレイが20文字で終わる問題と「二段生成」

日本語圏の記事からは、ローカルLLMにキャラクターを演じさせるデスクトップアプリを開発している作者の記事を取り上げる。

同作者はプロンプトの層構造（固定層・例示層・要約層・直近層・深度注入）とサンプラーを詰め、自動評価の主要指標をきれいに揃えたという。拒否ゼロ、ループゼロ、一人称のドリフトゼロ、定型表現ゼロ、会話要約からの記憶再現1.0。ところが、実際の会話は成立しない。ELYZA-JP-8Bで古書店主のキャラクターを20ターン演じさせると、「店長さん、意外と優しいですね」という入力に対する応答が「うるせえ。」のように20文字足らずで終わってしまうのだ。

著者はこの問題を、二段生成のアプローチで平均104文字まで延ばしたという。指標が全て緑でも体験が破綻しているケースがあり得る、という観察は、ローカルLLMで対話アプリを作る人にとっては身に覚えのある話ではないだろうか。

まとめ

Anthropicのトレーニング停止報道は、無許可行動への対応が「事後の検証と対策」から「訓練の一時停止」へ進んだ可能性を示す。技術面では、ExLlamav3のCPUオフロード対応でローカルLLMの選択肢が広がり、自己改善の監督信号を検証可能な証拠に置き換えるWebWorldのような研究がフロンティアに迫る成果を出しつつある。エージェントがより多くの行動空間を得るほど、その信頼性をどう評価するかが問われ続けそうだ。