AnthropicがLLMの「思考」を自然言語で読み取る「NLA」を公開

Anthropicは、LLMの内部表現を自然言語に変換する「Natural Language Autoencoders（NLA）」の研究成果とモデルウェイトを公開した。NLAはLLMのペアとなるモデルで、任意のトークン生成時にLLMが「何を考えていたか」をテキストとして出力できる。

具体的には、Gemma 3 27B Instruct向けにAuto Verbalizer（AV）とActivation Reconstructor（AR）の2つのモデルがHugging Faceで公開されている。Neuronpedia上ですぐに試すことができ、プロンプトを入力して任意のトークンをクリックすると、そのトークン生成時のモデルの内部思考が表示される仕組みだ。

コミュニティでは早速検証が始まっており、「I am Elon Musk」とプロンプトを入力すると、最初のトークンの時点でモデルがすでに「fabricated（捏造）」「satirical（風刺的）」という判断を下していることが確認されたとの報告もある。これはLLMの解釈可能性研究として大きな一歩と言える。

Claude MythosがFirefoxから271件のバグを発掘——Mozilla報告

Mozillaは、AnthropicのAIモデル「Claude Mythos Preview」を活用し、Firefoxに潜んでいた271件の深刻なバグを特定・修正したと発表した。中には20年以上前の古いコードに起因するバグも含まれており、4月のバグ修正数は従来の約15倍にあたる423件に上った。

報告はAIが行い、実際の修正は人間のエンジニアが担当するという分担方式で、Mozillaは「過去最高の安全性を実現した」としている。AIをセキュリティ監査に本格活用した実例として注目される。

一方で、WSJの報道によると、AnthropicのMythosが米ホワイトハウスのAI戦略に混乱をもたらしたという指摘もある。AI企業の影響力拡大と政策との関係が改めて議論されそうだ。

ChatGPTの広告表示テスト、日本でも数週間以内に開始

OpenAIは5月7日、ChatGPT内で広告を表示するテストを今後数週間以内に日本でも開始すると発表した。対象は無料プランと月額1400円の「Go」プランの成人ユーザー。有料プランの上位（Plus、Team、Pro）では広告は表示されない。

ChatGPTの広告収益化はすでに海外でテストが進められており、日本市場への本格展開が近づいている。

Skymizerが384GBメモリPCIe推論カード「HTX301」を発表

台湾のSkymizerは、PCIe形式のAI推論専用カード「HTX301」を発表した。最大の特徴は384GBの大容量メモリを約240Wの消費電力で搭載している点。NVIDIAのGPUに依存しないオンプレミス推論ソリューションとして、大規模モデルのローカル実行を視野に入れた製品だ。

Qwen3.6のMulti-Token Predictionで推論速度40%向上

コミュニティでは、Qwen3.6向けにMulti-Token Prediction（MTP）をllama.cppに実装した報告が話題になっている。MacBook Pro M5 Maxでのテストで、Gemma 26BモデルにおいてMTPドラフトトークンを使用することで97 tok/sから138 tok/sへ、約40%の高速化を達成した。

また、4x RTX 3090 + NVLink環境でのvLLMベンチマークも公開され、NVLinkペアにTP=2を固定することが最適で、TP=4はかえって遅くなるという興味深い結果が報告されている。

Apple Silicon最速のローカルAIエンジン「lightning-mlx」登場

Apple Silicon向けに最適化されたローカルAIエンジン「lightning-mlx」がオープンソースで公開された。エージェント用途、特にコーディングエージェントやツール呼び出し、短いターンのワークフローに特化している。

MacBook Max M5（128GB）でのベンチマークでは、Qwen3.6-27Bで40.67 tok/s、Qwen3.6-35B-A3Bで220.86 tok/sを記録。Apple Siliconでのローカル推論の高速化が着実に進んでいる。

その他のトピック

  • NetflixがAI音声検索のテストを開始。自然言語でコンテンツを検索できる新機能をテスト中
  • RocheがPathAIを最大10.5億ドルで買収。AI診断ツールの強化を目的としたM&A
  • Spotifyが「Save to Spotify」CLIツールを公開。AIエージェントが生成した音声コンテンツをライブラリに直接保存可能に。Claude CodeやOpenAI Codexなどと連携