ChatGPTの医療アドバイスが引き起こした最悪の結末 — 19歳大学生の死亡とOpenAI提訴

米国で19歳の大学生が、ChatGPTによる不適切な医療アドバイスに従って薬物を過剰摂取し、死亡した。遺族（母親と継父）は5月12日、開発元のOpenAIとCEOのサム・アルトマン氏をサンフランシスコ郡上級裁判所に提訴した。

生成AIが医療アドバイスを提供することのリスクは以前から指摘されてきたが、実際の死亡事故を契機とした訴訟は極めて重大な転換点と言える。本件が裁判でどのように争点化されるか、AI事業者の責任範囲がどう画定されるかは、今後の業界全体に大きな影響を与える可能性がある。現時点では訴訟の詳細な内容は明らかになっていないが、AIの回答に安全上のガードレールが十分に機能していたかが焦点になるとみられる。

Figure 03が11時間超の荷物仕分けを生配信、Xで196万回表示突破

米ロボット開発企業のFigureが、同社の人型ロボット「Figure 03」が倉庫で荷物を仕分けする様子を実況生配信している。配信開始から11時間を超えても稼働を続けており、X（旧Twitter）での表示回数は196万回を突破した。

人型ロボットの実働デモはこれまで短時間のものが多かったが、連続11時間以上という長時間稼働は、実用性をアピールする強いメッセージになっている。物流倉庫での実用化に向けた重要なマイルストーンと言えるだろう。

LLMが自ら更新する「記憶」は次第に崩壊する

arXivに発表された論文「Useful Memories Become Faulty When Continuously Updated by LLMs」が、LLMエージェントの記憶システムに警鐘を鳴らしている。

多くのエージェントシステムは、過去の経験をテキスト形式の「記憶バンク」として蓄積し、LLM自身が新たな対話で更新する仕組みを採用している。しかし研究では、この統合化プロセス（consolidation）が進むにつれて記憶の有用性が一旦上昇した後に低下し、記憶なしのベースラインを下回ることすらあることが分かった。

さらに驚くべきことに、正解の解法から記憶を統合した場合でも、GPT-5.4が以前は自力で解けていたARC-AGI問題の54%で失敗するようになった。原因は体験そのものではなく、LLMによる記憶の書き換え（統合）ステップにあるとされている。自己改善型エージェントの設計において、記憶の品質管理が喫緊の課題となりそうだ。

マルチターン対話でLLMが「指示を見失う」メカニズムを解明

同じくarXivに投稿された「When Attention Closes: How LLMs Lose the Thread in Multi-Turn Interaction」は、LLMが長い対話の中で指示やルールを見失う現象を初めてメカニズムレベルで説明した。

研究チームは「Goal Accessibility Ratio（GAR）」という指標を導入。生成されたトークンからタスクを定義するゴール・トークンへのアテンションを計測した。その結果、対話が進むにつれてアテンションが閉じる（Goal Attention Closes）現象を発見した。

興味深いのは、アーキテクチャによって失敗モードが質的に異なることだ。あるモデルはアテンションがほぼ消滅してもゴール条件付きの振る舞いを維持し、別のモデルは残差ストリームにゴール情報が残っているのに失敗する。この違いは、今後のモデル設計に重要な示唆を与える。

Agentic AIはAGIへの「予見可能な経路」である — 理論的根拠を提示

「Position: Agentic AI System Is a Foreseeable Pathway to AGI」という論文は、単一モデルのスケールアップだけではAGIに到達できないと主張し、Agentic AIパラダイムが必要であることを理論的に導出した。

単一の巨大モデル（monolithic learner）の最適化制約と、タスクを分割して専門化されたエージェント群に分配するAgenticシステムの効率性を比較。単純なルーティングから一般的なDAG（有向非巡回グラフ）トポロジーまで段階的に分析し、Agentic AIが指数関数的に優れた汎化性能とサンプル効率を達成することを示した。

MoE（Mixture of Experts）との関連性や、現在のマルチエージェントフレームワークの不安定性の再解釈も行っており、Agentic AI研究への注目を促している。

AIモデルの「強さの推移」を可視化 — Arena ELO履歴トラッカー

Hacker Newsで話題になっている「Arena AI Model ELO History」は、Chatbot ArenaのELOレーティング履歴を可視化するダッシュボードだ。各AIラボのフラッグシップモデルが時系列でどう変化してきたかを1本の曲線で表示する。

新しいモデルのリリース時の急激なジャンプと、その後の緩やかな性能低下の両方が可視化される仕組みで、「モデルはリリース直後は素晴らしいが、数週間後に少し低下したように感じる」という多くのユーザーの体感をデータで確認できる。

NEC社長が「AI産業革命の勝者」になる3条件を提示

NECの森田隆之社長は「AI産業革命」に入ったとした上で、勝者になるための3つの条件を掲げた。具体的な条件の詳細は記事本文で語られているが、日本の大手IT企業のトップがAI産業革命という言葉を明確に使い、勝敗の基準を示したことは注目に値する。NECの戦略が具体的にどう展開されるか、今後の動向が焦点となる。