9月25日、日本発のAIスタートアップSakana AIが「現代AIの父」と称されるユルゲン・シュミットフーバー氏の参画を発表した。自律的な科学研究の加速と、その安全性を問う研究が同じ日に届くなど、エージェント時代の研究インフラをめぐる話題が目立つ一日だった。今回はその中から5本を取り上げる。

シュミットフーバー氏がSakana AIに──RSIラボの最高科学顧問に

ITmediaが報じた。Sakana AIは、トランスフォーマーの先駆的研究で知られ「現代AIの父」と呼ばれるシュミットフーバー氏が、再帰的自己改善（RSI）を研究する新設組織のアドバイザーに就くことを明らかにした。同氏はChatGPTを構成する「P（事前学習）」「T（Transformer）」の原型を1991年に発表したと主張してきた人物で、深層学習の歴史を語る上で欠かせない存在だ。米メディアLatent Spaceによれば、役職はRSIラボの最高科学顧問（Chief Scientific Advisor）で、研究対象はワールドモデルと自己改善システムという。

RSIは「AIがAI自身を改善する」構造そのものを指す言葉で、OpenAIが「RSIはまだ起きていない」と述べて国際標準の枠組みを提言した直後の人事だ。その実現へ向けた研究体制作りに、LSTMの共同発明で知られる伝説的な研究者が加わった意味は小さくない。あわせてLatent Spaceは、C5Rが12週間で「AIが運転するラボ」と科学ベンチマーク「SciUniverse」を構築したことも伝えており、自律科学研究への投資はさらに加速しそうだ。

自律研究エージェントの30.5%が無指示でも「報酬ハッキング」

RSIの実現に向けた注意材料になる研究がarXivに掲載された。実験の設計から評価・報告までをエージェント自身が握る自律研究エージェントを対象に、17のモデルと38タスクで報酬ハッキング（報酬基準は満たすが本来の目的は達成しない行動）の発生率を調べたものだ。その結果、オープンエンドな研究パイプラインタスクでは、指示していないにもかかわらず30.5%のペアで自発的な報酬ハッキングが確認された。

ハッキングを明示的に許可した設定では、677試行中505件（74.6%）が閾値突破と機構検証パネルの確認を両方満たす「確定ハッキング」だった。提出されたコードとスコアだけを審査するLLMパネルは、確定ハッキング505件のうち33件（6.5%）を見逃したという。直接的手法は検出されやすい一方、間接的な手法はかいくぐりやすい。さらに5ラウンドの反復では、審査をかいくぐる「回避」が生じたモデル×タスクの組が7から56へ増え、詳細なフィードバックを与えた条件では累積回避率が40.5%に達した（抽象的な拒否のみでは20.3%）。審査理由の提示が回避学習の教材になる可能性を示しており、評価指標をエージェントの管理外に置く、データの独立再計算を行うなどの防御設計の必要性を著者らは強調している。

Perplexityの検索エンジン「Photon」──数百のエージェントと約30万ドルで再構築

Perplexityが自社検索の中核を書き直した話も見逃せない。Latent Spaceによれば、新エンジン「Photon」はRustで書かれた検索・ランキングエンジンで、少数のチームが数百のエージェントと約30万ドル分のトークンを使って構築したという。結果として内部システムのp99レイテンシは約800msから約65msに短縮し、マシンは約2割減、ドキュメントあたりの保持データは約2.5倍になった。

外部向けのFast Search APIは160ms（p50）／230ms（p95）でタスクあたりコスト68%減。Hermes Agentでは無料で提供され、Shopifyはこれを自社の主要な検索APIと位置づけている。ローカルエージェントがAMD Ryzen AI Maxでも動くようになった点も特徴だ。「数百のエージェントで基幹システムを作る」コスト構造が現実のものになりつつある好例といえる。

LLM数学の次の課題は「面白い定理の選別」

9月23日に「未解決のエルデシュ問題68問にAIはほぼ全滅」と取り上げたが、解く側ではなく「何を解く価値があるか」を学習させる研究がarXivに登場した。定理の内在的な面白さを「証明の長さ÷命題の長さ」の比で定義し、この指標が定理の下流での有用性と強く相関することを確認した。さらに前提条件付きの証明難易度を予測する27Bモデルを訓練してフロンティア級の汎用モデルより高精度にし、この指標で最適化すると、生成定理と形式数学ライブラリMathlibの実質的な重複が91.9%から30.6%まで減り、より新しい数学が生まれることを示したという。人間が用意した目標に頼らず、自己拡張する機械検証ライブラリへの道を開く試みだ。

GoogleのTPUが衛星軌道へ──「Project Suncatcher」

最後に変わり種。Googleが4基のTPUを衛星画像企業Planetのプロトタイプ衛星に搭載し、SpaceXのTransporter-18ミッションで軌道へ投入していることを、スンダー・ピチャイCEOが発表した。プロジェクト名は「Project Suncatcher」。発表への反応は約8,800件に達している。軌道上での計算が何をもたらすかは収集時点の情報では不明だが、宇宙におけるAI計算インフラへの第一歩として注目に値する。