OpenAIが認める：AIハルシネーションは「数学的に不可避」

OpenAIが、LLMのハルシネーション（もっともらしい嘘）は単なるエンジニアリング上の欠陥ではなく、数学的に回避不可能であると公式に認めた。同社の見解によれば、生成モデルの確率的性質そのものに起因する根本的な問題であり、完全な解決は理論上も困難とされる。

この発言は、AIを業務や医療など高信頼性が求められる分野に導入する企業に対して重要な意味を持つ。ハルシネーションを「直近の技術的課題」として楽観視する見方に、理論的な限界が示された形だ。

AI音声模倣で誘拐詐欺 — Bay Areaの母親が数千ドルの被害

カリフォルニア州Bay Areaの母親が、AIで娘の声を模倣した詐欺師の電話を受け、数千ドルを奪われる被害に遭った。偽の誘拐場面を演出する「バーチャル誘拐詐欺」の実例として報じられている。

AI音声合成技術の進歩により、わずかな音声サンプルから高度な模倣が可能になり、この種の詐欺は急増している。家族の声を模倣した緊急時を装う手口は、技術の民主化と同時に悪用リスクも拡大していることを示している。

XiaomiがDeepSeek後にAIコスト最大99%削減

中国のXiaomiが、DeepSeekの技術的アプローチを応用し、AI運用コストを最大99%削減したことが報じられた。DeepSeekが示した「少数のハイパーパラメータで大規模モデルに匹敵する性能」の路線をさらに推し進めた形だ。

AIコストの劇的な削減は、特に中国市場におけるAI普及を加速させる要因となる。一方で、低コスト化がセキュリティや品質管理の簡略化につながらないかという懸念も一部で指摘されている。

Python AIスタックに重大な脆弱性「BadHost」

StarletteをはじめとするPython製Webフレームワークにおいて、ホストベースのセキュリティチェックを1文字でバイパスできる脆弱性「BadHost」が発見された。Python AIスタック全体に影響を及ぼす可能性があり、AIアプリケーションのバックエンドとしてPythonを使用している組織にとって深刻なリスクとなる。

Anthropicのエージェント封じ込め設計が話題に

Anthropicのエンジニアリングブログに掲載された「How we contain Claude across products」という記事がQiitaで解説され、日本のエンジニアコミュニティでも注目を集めている。エージェントの自律性が高まる中で、「Blast Radius（爆発半径）」を制御する実践的なアプローチとして、エージェントの権限スコープ設計やサンドボックス化の知見が共有されている。