AnthropicのClaude Mythosが金融インフラの脆弱性を発見、保守派がAI安全テストの大統領令を要求、音声AIに隠し攻撃の脆弱性

AnthropicのClaude Mythosが金融インフラのサイバー脆弱性を発見

Anthropicが近日公開する新モデル「Claude Mythos Preview」が、世界の金融システムのサイバー防御における脆弱性を特定した。同社はこの発見を受け、主要国の財務省や中央銀行などの金融規制当局に対してブリーフィングを実施する予定だ。

AIモデルが自律的にセキュリティ上の欠陥を見つけ出し、それを政府機関に直接報告するという流れは、これまでにない展開と言える。従来のセキュリティ監査は人間の専門家が主導していたが、Claude Mythosの発見能力が金融インフラという critical infrastructure の防御に実用的なレベルで貢献し始めていることを示唆している。

具体的な脆弱性の内容は現時点で非公開とされているが、Anthropicが自発的に規制当局へ情報提供を行うという判断自体が、AI企業の責任ある姿勢を示す事例として注目される。

保守系団体がフロンティアAIの「出荷前安全テスト」をトランプ政権に要求

Humans Firstをはじめとする保守系団体の連合が、ドナルド・トランプ大統領に対し、フロンティアAIモデルの出荷前安全性テストを義務付ける大統領令の発行を求める公開書簡を送付した。

AI規制というとこれまで民主党・進歩派の议题とされることが多かったが、この動きは保守派からもフロンティアモデルの安全性確保を求める声が強まっていることを示している。Axiosの報道によると、スティーブ・バノンらもこの取り組みに同調しているという。

要求の核心は、強力なAIモデルが市場に出る前に、独立した安全性評価を経るべきだという点だ。具体的なテスト手法や閾値については今後の議論が予想されるが、与党内からも規制支持の声が上がっていることは、今後のAI政策立案に大きな影響を与える可能性がある。

音声AIシステムが「隠し音声攻撃」に脆弱——IEEE Spectrumが報告

IEEE Spectrumが、音声認識AIシステムが人間の耳には聞こえない隠し音声信号による攻撃に対して脆弱であると報告した。

この攻撃手法は「adversarial audio」と呼ばれ、通常の音声に特殊な信号を埋め込むことで、AIシステムには意図しない命令として認識させる一方で、人間には元の音声としてしか聞こえないというものだ。スマートスピーカーや音声アシスタント、自動音声応答システムなどが潜在的な標的となる。

音声インターフェースの普及が進む中で、この種の攻撃に対する防御策の確立は急務となっている。現時点では実用化された防御手法は限られており、研究段階が続いているという。

新BitNetモデル「BitCPM4-CANN」シリーズがリリース

OpenBMBが1ビット/1.58ビット重みの新しいモデルシリーズ「BitCPM4-CANN」をHugging Faceで公開した。1B、3B、8Bの3つのパラメータサイズが用意されている。

BitNet系モデルは従来のFP16/INT8量子化とは異なり、学習段階から1ビット表現を採用することで、推論時のメモリ使用量と計算コストを大幅に削減する。LocalLLaMAコミュニティでは、llama.cppでの対応が進められており、今後ローカル環境での動作確認が期待されている。

GPUsを持たない環境でも動作可能な軽量AIの追求は、個人開発者やエッジデバイスでの活用に向けた重要な動きだ。

教皇レオ14世がAI時代の回勅を5月25日に発表

教皇レオ14世が、AI時代における人間の尊厳の保護をテーマとした初の回勅（encyclical）「Magnifica Humanitas」を5月25日に発表することが発表された。

バチカンの報道によると、この回勅はAI技術の急速な発展が人間の本質に及ぼす影響について、カトリック教会の立場を明確にする内容となる見込み。「AIの倫理」という観点から、技術開発者、政策立案者、そして一般市民に対するメッセージが含まれると予想されている。

宗教界の最高指導者によるAIに関する公式文書の発表は、AI倫理の議論に新たな次元をもたらす出来事だ。