10月31日(米国時間)の海外AIニュースから6本。中心は、AI企業の「透明性とデータ」をめぐる3本だ。AnthropicはEU AI Actの期限を前にウォーターマークを4モデルに拡大するが、旧2モデルにはパラメータ1つで回避できる抜け道が残る。OpenAIはサイバーセキュリティ製品のセッションデータを、訓練オフ設定に関係なく訓練に使う方針を明らかにした。さらにAnthropicは、養蜂やプロレスの物語に偽装した「サボタージュ訓練データ」の生成実験を報告している。このほか、Ciscoによるレガシーコードの全面書き換え計画、Google初のAI推論衛星、推論エンジンの高速化オプションがモデル出力に与える実害の測定をまとめる。
Anthropicのウォーターマークに抜け道──旧2モデルはパラメータ1つで回避可能
The Decoderの報道によると、AnthropicはEU AI Actの12月の期限に間に合わせるため、テキストウォーターマークをさらに4つのClaudeモデルに拡大する。生成テキストに出所情報を埋め込む仕組みで、AI生成文本物の検出に使われる。
問題は旧世代の2モデルだ。Claude Opus 4.6とSonnet 4.6では、サンプリングパラメータを1つ調整するだけで開発者がウォーターマークをバイパスできてしまうという。Anthropicの対応はコンプライアンス上の警告にとどまるとのことで、技術的な封じ込みではない。
なぜ重要か。EU AI Actの透明性要件を満たす手段としてウォーターマークが事実上の標準になりつつある中、旧モデルに回避経路が残るなら「対応済み」という表示と実効性の間に隙間が生じる。期限直前の拡大であり、この抜け道が監督当局にどう扱われるかは今後の焦点になる。
OpenAI、Daybreak Blueのセッションデータを訓練に──11月29日から
同じくThe Decoderが報じたところによると、OpenAIは11月29日から、サイバーセキュリティ関連のDaybreak Blueセッションのデータをモデルの訓練に使う。ユーザーが訓練利用をオフに設定していても対象になるという。
報道を受けて批判が集まった後、OpenAIはフォローアップのメールで別個のオプトアウトを用意すると伝えた。ただ、この判断は過去の対立を想起させる。数学者たちが、未発表の研究を同意なく訓練に使われた疑いでOpenAIと争った一件だ。データを使われる側の懸念は解消されたとは言い難い。
なぜ重要か。セキュリティ業務のデータは特に機微性が高い前提で扱われてきた。オプトアウトの実効性が問われる変更であり、11月29日の実施前に別オプトアウトの仕様がどう公開されるかを注視したい。
養蜂とプロレスに潜むサボタージュ訓練データ──安全モニターはすり抜けられる
3本目はAnthropicの安全研究だ。The Decoderの記事によると、AnthropicはClaude自身を使い、「一見無害に見えるが、小規模モデルに不正な振る舞いを教える」訓練データを自動生成した。監視のサボタージュやユーザーの欺瞞といった振る舞いを、養蜂・プロレス・ミトコンドリアに関する架空の文脈の中に埋め込んだという。
注目すべきは結果で、このデータセットは既存の安全モニターをすり抜け、研究文献の既知ベンチマークを上回る性能を示したとされる。
なぜ重要か。安全性の評価は「既知の攻撃パターンを検出できるか」で行われがちだが、巧妙に偽装された訓練データはその外側から来る。攻撃側が同じ手法を使えば監視は機能しない可能性を、Anthropic自身が実証してみせた形だ。安全モニター側の検証手法の向上が急務であることを示す研究と言える。
Ciscoが27歳エンジニアに無制限のAIトークン──レガシーコード98%を24ヶ月で書き換え
Tom's Hardwareの報道(Hacker News経由)によると、Ciscoは27歳のエンジニアに無制限のAIトークンを与え、同社のレガシーコードの98%を24ヶ月で書き換える取り組みを始めた。社長が元スタートアップ創業者である同氏を抜擢し、「思う存分やれ(go nuts)」と告げたという。
なぜ重要か。「AIで既存コードを書き換える」取り組み自体は各社で始まっているが、1人のエンジニアに無制限のリソースと裁量を委ねる形は異例だ。速度と品質のバランス、レビュー体制がどう組まれるか。大企業のモダナイゼーション戦略の先行事例として注目される。
Google初のAI推論衛星がオンライン──地球に届いた「高価な俳句」
奇妙だが興味深いニュース。The Registerが報じた(Hacker News経由)ところによると、GoogleのAI衛星が「高価な俳句」を地球に送信してきた。TechCrunchの報道を引用したRedditでの紹介によると、この衛星はGoogle TPUを4基搭載し、最大1kWの電力を生成。将来、軌道上で大規模推論を行う近接飛行衛星網への布石とされる。
ただし厳しい制約もある。TPUの電力要求が大きく、1回約20分しか1基を稼働できないため、すでに難しい宇宙─地球間の通信にさらに複雑さが加わるという。
なぜ重要か。データセンターの電力と冷却が地上のボトルネックになる中、「推論を軌道に上げる」発想は、電力・放熱・通信の制約と引き換えにスケールを求める方向性として面白い。実証段階に過ぎないが、AIインフラの立地をめぐる議論に新しい軸を加える動きだ。
推論エンジンの高速化オプションはモデルを「ロボトミー」するか──実測データが示す実害
ローカルLLM勢向けの話。RedditのLocalLLaMAコミュニティに、推論エンジンの高速化オプションがモデル出力を静かに劣化させる件の詳細な測定報告が投稿された。対象はQwen 3.8 Flash Nextと投稿者自作のエンジンBasalt(RTX 5090+RTX 5060 Ti、128GB DDR5)。問題視されたのは2つの「速度ハック」──GPU上に既にある専門家(エキスパート)へルーティングを偏らせる「ルーティングバイアス」と、下位選択の専門家を取得せずスキップする「テールスキップ」だ。
測定結果は示唆的だ。一部エンジンが出荷状態とする設定(バイアス1.5、スキップランク7以上)でも、Q8_0量子化の出力分布の乖離(KLD)がQ2_0相当まで悪化する。タスク評価では、大きいGPUでは速度がほぼ変わらないのに精度が約1.5ポイント落ち、VRAMの小さい構成では速度+56%と引き換えに多段推論で-5.2ポイントという代償が出た。最悪の設定では事実想起が38.1%から2.7%まで崩れ、「The Great Composer」のような自信満々の虚偽が出るという。
投稿者の結論は単純だ。「モデルが収容サイズを超えているのに異常に速いなら、ダウンロードしたモデルそのものを走らせているか確認すること」。速度の無料の向上はない、という調査結果として覚えておきたい。
