GoogleがAI開発のゼロデイ脆弱性を初確認

Googleが、AIによって開発されたゼロデイ脆弱性を初めて確認したとTom's Hardwareが報じた。この脆弱性は2要素認証（2FA）をバイパス可能で、自己変形マルウェアやGeminiを利用したバックドアなども確認されたという。

Googleは同時に、ハッカー集団がAIを大規模な攻撃に利用しようとする試みを阻止したことも明らかにしている。CNBCの報道によれば、これはAIが「大量の脆弱性スキャンと悪用」を自動化する段階に入ったことを示唆するものだ。

AIを用いたセキュリティ研究と攻撃の両面で新たな段階に入ったことを受け、AIの防御的・攻撃的利用の境界線がますます曖昧になっている。

Amazon QuickのAgentic AIに認可バイパス脆弱性

Fog Securityが、Amazon Quick（AWSのエンタープライズ向けAgentic AI）に認可バイパスの脆弱性を発見したと報告した。AIエージェントが本来アクセス権のないリソースにアクセスできる問題で、企業環境でのエージェント導入におけるセキュリティ設計の課題が改めて浮き彫りになった。

Agentic AIが本格的な企業導入段階に入る中で、従来のロールベースアクセス制御（RBAC）では不十分となるケースが増える可能性がある。AIエージェントが代理で実行する操作の権限設計は、独立したセキュリティレビューの対象として扱うべきだという指摘も出ている。

また、MCPサーバーのセキュリティを検査するオープンソースツール「MCPSafe」がShow HNで公開されるなど、エージェント関連のセキュリティツールも充実し始めている。

Adaptionがモデル自動学習ツール「AutoScientist」を発表

スタートアップAdaptionが、AIモデル自らが学習プロセスを設計・実行するツール「AutoScientist」を発表した。従来のファインチューニングのアプローチを自動化し、モデルが特定の能力に迅速に適応できるようにするのが狙いだ。

TechCrunchの報道によれば、このツールはモデルの学習方法を自動的に最適化し、人間がハイパーパラメータやデータ選択を手動で行う必要性を大幅に減らすという。AutoScientistがどの程度の範囲のタスクに適用可能かは今後の検証待ちだが、AIの学習プロセス自体をAIに最適化させるという方向性は、今後のモデル開発効率に影響を与える可能性がある。

関連トピック

  • Alibabaの利益84%急減: CNBCによると、Alibabaの純利益が前年同期比84%減少した一方で、AIおよびクラウド事業の成長は加速している。大規模なAI投資が収益を圧迫する構図は、他のビッグテックにも共通する課題となっている。

  • POISE — 言語モデル自身が批評家になる: Hugging Face Daily Papersに掲載された研究で、モデルの隠れ状態をRL訓練のベースライン関数として活用する手法「POISE」が提案された。外部のクリティックモデルなしに強化学習を行える可能性を示している。