Anthropicがジェイルブレイク重大度フレームワークを提案、AIハルシネーション報告書で訴訟、DeepSeek V4 FlashをRTX 5090で1Mコンテキスト実行 ― AIニュースダイジェスト

AnthropicがFable 5のサイバーセーフガードとジェイルブレイク重大度フレームワークを公開

Anthropicは7月2日、再デプロイされたClaude Fable 5について、サイバーセキュリティセーフガードの詳細情報と、AIジェイルブレイクの重大度を分類するフレームワークの草案を公開した。

Fable 5に搭載された「セーフティクラシファイア」は、危険な（または潜在的に危険な）サイバーセキュリティ利用を検知・ブロックするAIシステムで、どのような危害を防止対象とし、どのようなものを対象外としているかの詳細なリストが示された。

さらに注目すべきは、Glasswingパートナーと共同で開発した「AIジェイルブレイク重大度フレームワーク」の草案だ。ジェイルブレイク（AIモデルのセーフガードを回避する手法）は、軽微な望ましくない振る舞いの解除から、広範な有害出力の解放まで重大度が幅広い。しかし、これまで重大度を評価する統一された基準がなかった。Anthropicはこのフレームワークにより、AI開発者と政府が一貫した基準でリスクを話し合えるようになることを目指している。学術界、業界、市民社会、政府での議論を促す意図だという。

AIハルシネーション報告書が引き起こした訴訟――Palo Alto Networksのケース

AIが生成したセキュリティレポートの「ハルシネーション（事実と異なる出力）」が、現実の訴訟に発展する事例が報じられた。

セキュリティ大手Palo Alto Networksの子会社Koi SecurityがAIを用いて作成したレポートが、あるスタートアップを中国のスパイ活動と関連があるかのように誤って指摘。この虚假の記述によりビジネス上の損害を受けたとして、当該スタートアップがPalo Alto Networksを相手取り訴訟を提起した。

AIが生成したコンテンツの正確性に対する法的責任が問われる重要な事例であり、今後AIを活用する企業全般に影響を与える可能性がある。セキュリティ業界においてAI生成レポートの信頼性と検証プロセスのあり方が改めて問われている。

Goldman Sachsが「AIジョブ・アポカリプス」レポートを発表、経済学者もAIリスクに警鐘

Goldman Sachsが「An AI Job Apocalypse?（AIによる雇用の終末？）」と題したリサーチレポートを公開した。AIが雇用市場に与える影響を定量分析したもので、Hacker Newsでも注目を集めている。

これと同時に、WSJ（Wall Street Journal）は「世界のトップ経済学者がAIのリスクに警鐘を鳴らしている」と報じた。主要な経済学者たちがAIが経済システムに与える潜在的影響について懸念を表明しており、Goldman Sachsのレポートと合わせてAIの経済的影響に対する議論が活発化している。

DeepSeek V4 FlashをRTX 5090で1Mトークンコンテキスト実行するパッチ

RedditのLocalLLaMAコミュニティで、DeepSeek V4 FlashをRTX 5090（96GB DDR5搭載機）でフル1Mトークンコンテキスト実行するllama.cppパッチが発表された。

従来、1Mコンテキストでの実行は約256GBのVRAMを要求し実質不可能だったが、DSA Lightning Indexerのllama.cppサポート不足が原因と判明。コミュニティメンバーが上流のPRをベースにCUDAカーネルを自作し、以下のような劇的な改善を達成した：

コンピュートバッファ: 約67GiB（OOM）→ 3.2GiB
プレフィル速度: 56 t/s → 約263 t/s
256Kコンテキストで実用的な動作が可能に

オープンソースのローカルLLMコミュニティの威力を示す好例で、コンシューマーGPUで超長コンテキストモデルを実行する扉が開かれた。

Linuxカーネル開発者がAI帰属タグの削除を議論

Linuxカーネルコミュニティで、AI生成コードの「帰属タグ（attribution tag）」をどう扱うかについて新たな議論が起きている。Phoronixの報道によると、カーネル開発者たちの間でAI生成コードに付与されるタグを削除すべきかどうかが話題になっている。

オープンソースプロジェクトにおいてAI生成コードをどう位置づけるかは、ライセンス、品質管理、著作権の観点から世界中で議論が続くテーマ。Linuxカーネルという最重要OSSでの議論の行方は、他のプロジェクトにも影響を与える可能性がある。

130万ドルのAIインフラ貨物盗難が露呈した「AIの盲点」

The New Stackの報道によると、約130万ドル（約1.9億円）相当のAIインフラ機材が貨物輸送中に盗難に遭う事件が発生。この事件は、AI産業が注力するサイバーセキュリティに対し、物理的なサプライチェーンセキュリティが「盲点」になっていることを浮き彫りにした。

AIデータセンター向けの高価な機材が標的となる中、デジタル面のセキュリティ強化だけでなく、物流・物理セキュリティの重要性も高まっている。