OpenAIがChatGPTにLockdown Modeを発表——プロンプトインジェクション対策の新機能

OpenAIは6月6日、ChatGPTに「Lockdown Mode」を追加すると発表した。この機能は、プロンプトインジェクション攻撃から機密データを保護することを目的としている。

プロンプトインジェクションは、LLMに対して悪意のある指示を紛れ込ませ、意図しない情報漏洩や操作を引き起こす攻撃手法だ。ChatGPTのような対話型AIにとって最も深刻な脅威の一つとされてきた。

OpenAIはLockdown Modeを有効にすることで、機密データが外部に共有されるリスクを大幅に低減できるとしている。ただし、同社は「Lockdown Modeを有効にしても、ChatGPTがプロンプトインジェクションに対して完全に安全になるわけではない」と注意を促しており、あくまでリスク低減策としての位置づけである。

AIを業務で利用する企業にとって、データ保護は喫緊の課題であり、こうした防御機能の段階的な強化は実用化の前提条件と言える。

AIメモリの95%にエラー——研究プロジェクトが指摘する信頼性の壁

Tenure Projectと呼ばれる研究チームが、AIのメモリ機能において95%という高いエラー率を検出したと報告した。

LLMが文脈や過去の対話を「記憶」する機能は、より自然な対話やパーソナライゼーションの核となる技術だが、この研究結果は、その記憶の正確性に深刻な問題があることを示している。

AIがユーザーの情報を誤って記憶・出力すれば、単なる利便性の低下にとどまらず、誤情報の拡散やプライバシーの侵害につながりかねない。メモリ機能の精度向上は、AIアシスタントの信頼性を左右する重要な課題として注目される。

Claude APIで2週間に20件超のインシデント——開発者への影響拡大

2026年5月25日から6月6日までの約2週間で、AnthropicのClaude APIに20件以上のインシデントが記録された。影響を受けたのはClaude Opus 4.5/4.6/4.7/4.8、Claude Sonnet 4.5/4.6といった主要モデル。

Qiitaに投稿された解説記事によると、障害の内容はAPIレスポンスの遅延やエラー、サービス断続的な利用不可など多岐にわたる。Claude APIを本番環境で利用する開発者にとって、この頻度は無視できない影響となっている。

APIプロバイダーの安定性は、AIを組み込んだサービスの信頼性に直結する。複数モデルにまたがる広範な障害は、インフラのスケーリングや負荷分散の課題を浮き彫りにしている。

AIツールの管理者アカウント乗っ取り脆弱性が発覚

あるAIツールで、ワンクリックで管理者アカウントを乗っ取れる脆弱性が発見されたとRedditで報告された。発見者は動画で実証しており、攻撃の容易さが懸念を呼んでいる。

AIツールやエージェントプラットフォームが急速に普及する中、認証・認可の実装に不備があるケースが散見される。AI自体の安全性だけでなく、AIを提供するプラットフォームのセキュリティ設計も同様に重要な課題だ。

開発者は、OAuth実装やセッションハンドリングなど、Webアプリケーションとしての基本セキュリティを決しておろそかにすべきではない。

AMD MI50がDebianで快調動作——llama.cppベンチマーク詳細

RedditのLocalLLaMAコミュニティで、AMD MI50 32GB（旧世代のサーバー向けGPU）をDebian Testing環境でllama.cppに使用した詳細なベンチマーク結果が共有された。

テストにはQwen3.6-35B-A3B（Q6_K量子化）を使用。VulkanバックエンドとROCmバックエンドの両方で比較を行い、MTP（Multi-Token Prediction）ドラフトモデルの効果も検証している。

結果として、デュアルMI50環境でVulkan + MTPの組み合わせが最もバランスが良く、推論速度89.76 tok/sを記録。驚くべきことに、VulkanバックエンドがROCmを一部の指標で上回るケースも確認された。

注目すべきは、llama.cppがDebianの公式APTリポジトリからインストール可能になっており、手動でのビルド不要で利用できる点だ。旧世代GPUでも最新のLLM推論環境が比較的容易に構築できることは、ローカルLLMコミュニティにとって大きな朗報と言える。