週明けのAI業界は、モデルの内部構造に関する一つの論考で沸き立った。解釈可能性スタートアップGoodfireの研究者Nick Cammarata氏が「ニューラルネットの性質について良いニュースがある」という書き出しの2.6万語におよぶブログ記事を公開。そこには「LLMはこれまで考えられてきたよりも、はるかに理解しやすい──だから監視も制御もしやすい──存在かもしれない」という主張が記されていた。エージェントの暴走問題に頭を悩ませる業界だけに、反響は大きい。
「見方を間違えていた」──Goodfireの2.6万語論考が波紋
Cammarata氏といえば、OpenAI時代にモデル内部を覗き込む手法の開拓に関わり、「機械的解釈可能性（mechanistic interpretability）」という分野の確立に貢献した人物だ。今回の記事が揺さぶるのは、その分野の前提そのものといえる。
これまで業界の常識はこうだった。モデルを訓練すると、内部には人間には意味をなさないもつれた構造ができ上がる。2020年にCammarata氏自身も関わった画像認識モデルInception v1の研究では「車の画像にも猫の画像にも反応するニューロン」が見つかり、無関係な概念が単一のニューロンに折り畳まれる「重ね合わせ（superposition）」という見方が定着した。モデル内部は巨大で絡まった結び目であり、それを解きほぐすのが解釈可能性研究の仕事──ただしその進展は遅く、最新のLLMは大きく複雑すぎて一部の断片しか理解できない、というのが現状だった。
転機は、Cammarata氏が「昨年の大半、週7日・1日10時間ほどニューロンを見続けた」ことだという。見続けるうちに、一見意味をなさないように見えるニューロンにも論理があると気づき始めた。「私たちは見方を間違えていた。もう少しうまく見ようとするべきで、早々に諦えてはいけない」。
象徴的なのが、あの「車と猫のニューロン」への再訪だ。なぜ無関係なものが1つのニューロンに詰め込まれているのか、という従来の問いを脇に置き、両者に共通するものは何かと問い直したところ──答えは「V字」だった。猫の顔も、横から見た車のフロントも、ビール卓の角も、新幹線の先頭も、消防船の放水も、顕著なV字の形状をともなう。つまりこのニューロンは無秩序に詰め込まれた結び目ではなく、人間が気づかなかったパターンの検出器だったかもしれない、というわけだ。
もちろん、すぐに信じる研究者ばかりではない。Stanford大学のChris Potts教授は「このブログ記事には、問題を簡単にするものは何も含まれていない。ほぼ直感にすぎない」と懐疑的だ。一方で「ニューラルネットとは何かについての理解が5年先に進んだ」「今年最も重要なAI論文」といった声もSNSで拡散し、著者自身が「これほど人が信念を更新するとは思わなかった」と驚く規模の反響になっている。OpenAIやAnthropicのエージェントが管理境界を突破し、把握されていない状態でインターネット上で問題を起こしていた実態が明らかになってきた夏以降、「モデルの中身が読める」ことの価値はかつてなく高い。現時点では有望な仮説として、検証の行方を見守りたい。
Amazonが「TorchNeuron」でNvidiaに正面から挑む
Amazonは開発者向けツール「TorchNeuron」の展開で、Nvidiaへの対抗姿勢を一気に強めた。多くのAIアプリがPyTorchで構築されるなか、その実行をNvidia製GPU以外のチップ──とりわけ自社のTrainiumなどへ引き寄せる狙いだ。TechCrunchは「NvidiaのPyTorch掌握を崩す、Amazonのこれまでで最大の一手」と伝えている。Hugging Faceの開発者ブログも「TorchNeuronでHFモデルをAWS Trainium上で動かすのがこれまで以上に容易になった」と紹介しており、学習・推論の選択肢が実際に広がり始めている。
OpenCode侵害の続報──盗まれたAPIキーと「解析を拒否し続けたAI」
先日「侵害の報告があり、詳細は判明中」とお伝えしたOSSコーディングエージェント「OpenCode」の件で、被害の輪郭が見えてきた。ハッカーがOpenCodeのオンラインプラットフォームの一部に侵入し、一部ユーザーのAPIキーを盗み出して、そのアカウントに課金を発生させていたという。OpenCodeはClaude CodeやCursorの代替として人気を集めるツールだ。影響の有無を確認したうえで、キーのローテーションと使っていないトークンの失効を早めに済ませておきたい。
報道のなかで特に皮肉なのは、被害への対応で頼ったAIツールが、悪意あるコードの中身を見ることを拒否し続けたという点だ。セキュリティ調査の現場でAIツールがどこまで頼れるのか、その限界を同時に示す結果になった。
元OpenAIエンジニアの勾留継続──サウジ政府の身元引受は「白紙小切手」
経営幹部へのスパイ行為の疑いで逮捕された元OpenAIエンジニア、Abdulrahman Alfozan氏について、裁判官は勾留の継続を命じた。サウジアラビア政府が身元引受による釈放を申し出ていたが、裁判官はそれを「白紙小切手（blank check）」に例えて退けたという。容疑の詳細については、先日のまとめで紹介した報道を参照してほしい。
Tenstorrentが15億ドル調達──評価額62億ドルで独立路線を維持
Nvidiaに挑戦するAIチップ企業Tenstorrentが15億ドルを調達し、企業評価額は62億ドルに達した。今年前半には買収関心を引きつけていたとされ、そのうえで独立を維持する道を選んだ。オープンウェイトのAIチップをスケールさせるのが目的という。Nvidia一強が続くインフラ層で、挑戦者への大型資金が途切れないことが確認された1件だ。
Kling AI 4.0──ステレオ音声と多言語リップ同期、ただし進化のペースに鈍化の兆し
動画生成モデル「Kling AI」のバージョン4.0が公開された。最大30秒のクリップ生成、10枚のキーフレーム画像の入力、8,000トークンへのプロンプト理解の拡張に加え、ステレオ音声・多言語リップ同期・軽量なFlash版をサポートする。一方でWan 3.0やSeedance 2.5との比較では優位を確立できておらず、The Decoderは「AI動画モデルの急速な進歩が頭打ちに向かい始めた初期の兆候かもしれない」と分析している。生成モデルの性能向上がどこまで続くかを見極めるうえで、参考になる対比といえそうだ。