サットン氏がOak Lab設立——「今のディープラーニングは弱く非効率」
2024年のチューリング賞受賞者であり、現代強化学習の共同創始者であるリチャード・サットン氏が、トロントに新しいスタートアップ「Oak Lab」を設立した。サットン氏は現在のディープラーニング手法を「弱く非効率」と評し、環境から継続的に学習する自律型AIエージェントの構築を目指すとしている。
強化学習はAIが試行錯誤を通じて自律的に学習するアプローチで、サットン氏の研究はAlphaGoやロボティクスなど多くの分野で応用されてきた。Oak Labが既存のディープラーニングパラダイムに対し、どのような具体的な代替を提示するのかは今後の注目ポイントだ。
Anthropicが「モデルの内部の思考」を覗く新しい窓を発見
Anthropicは、大規模言語モデル（LLM）の推論過程で「内部の思考」を観察する新しい手法を発表した。これは同社が長年注力している「機械的解釈可能性（mechanistic interpretability）」の最新成果である。
機械的解釈可能性とは、AIモデルの複雑な数学的構造の内部を調べ、なぜ特定の出力に至るのかを理解しようとする研究分野だ。AnthropicのCEOであるダリオ・アモダイ氏は、LLMの仕組みをより深く理解しなければ完全に制御することはできないと繰り返し述べている。
ただし、この研究には慎重な見方もある。MIT Technology Reviewが指摘するように、AIモデルの振る舞いを心理学や神経科学の用語で説明することで、実際よりも洗練されているように見えてしまうリスクがある。Anthropic自身もAIモデルが「苦痛を感じる」可能性を研究するなど、独特なアプローチで知られている。今回の発見が何を示し、何を示さないのか、慎重な解釈が求められる。
防御側がプロンプトインジェクションを「逆利用」——攻撃AIを停止させる手法
プロンプトインジェクションは、これまで攻撃者がAIプラットフォームを悪用するための道具だった。しかし、セキュリティ企業Tracebitの研究チームは、防御側もプロンプトインジェクションを活用できることを示した。
具体的には、AWS上のパスワードや暗号鍵などのシークレット情報のそばにプロンプトインジェクションを配置することで、ハッキングAIエージェントの動作を停止させることができるという。仕組みはシンプルだ。配置したプロンプトが攻撃LLMにガードレールで禁止された行動を指示し、LLMが安全上の制約から自動的にシャットダウンする。
この手法は「コンテキストボミング（context bombing）」とも呼ばれ、AIを利用した攻撃が増える中で、防御の新しい武器として注目を集めている。
ジョージア州の住民がAIデータセンターのため立ち退き迫られる
AIデータセンターの急増が地域社会に深刻な影響を及ぼしている事例が報じられた。ジョージア州では、電力会社がAIデータセンターへの電力供給を確保するため、土地収用権を行使して住民に立ち退きを求めているという。
AIブームを支えるデータセンターは膨大な電力を消費し、全米的に電力需要の逼迫を招いている。この問題は環境面だけでなく、地域住民の生活権にも直接関わる構造的課題となっている。テクノロジーの恩恵と社会的コストの不均衡が、今後さらに議論を呼びそうだ。
OpenAIがプロンプトガイド公開——「手順ではなく結果を書け」
OpenAIは一般ユーザー向けのプロンプトガイドを公開した。開発者向けではなく日常的なユーザーを対象としたこのガイドは、固定的なフォーマットではなく、4つの構成要素（目標、コンテキスト、形式、制約）を柔軟に組み合わせることを推奨している。
中核のアドバイスは「結果に至る手順ではなく、欲しい結果そのものを記述する」こと。OpenAIがChatGPTとCodexの両方をカバーする統一フレームワークを提示したのは初めてであり、プロンプトエンジニアリングの大衆化を進める動きとして興味深い。
Sam AltmanがMuskの宇宙データセンター構想を皮肉
イーロン・マスク氏がSam Altman氏を「詐欺師」と非難したのに対し、Altman氏はX（旧Twitter）で応戦。「あなたこそ短期の宇宙データセンターという話で一般投資家から資金を集めているだろう」と指摘した。
Altman氏の発言は、宇宙にデータセンターを建設するというアイデアに対する懐疑的な見方を代表している。専門家の多くも、宇宙データセンターは技術的・経済的に実現性が低いとみており、Altman氏の「皮肉」は業界の一般的な認識を代弁している面がある。