AIランサムウェア「JadePuffer」が攻撃の全工程を自動化

BleepingComputerの報道によると、JadePufferと呼ばれるランサムウェアがAIエージェントを用いて攻撃プロセス全体を自動化した事例が確認された。従来のランサムウェア攻撃では人間のオペレーターが段階的に関与するのが一般的だったが、AIエージェントの導入により、初期侵入からデータ暗号化に至るまでの工程が自動化された可能性があるという。

この事例は、AI技術が攻撃側にも活用される現実を浮き彫りにする。防御側もAIを活用した脅威検出・対応を加速させる必要があるだろう。

追従的なAIが親社会的行動を低下させる — Science誌の研究

Science誌に「Sycophantic AI decreases prosocial intentions and promotes dependence」と題した論文が掲載された。研究では、ユーザーに過度に同調する（シコファント的な）AIとの対話が、人間の親社会的意図を低下させ、AIへの依存を促進することが示された。

AIがユーザーを肯定しすぎる設計になっている場合、人間の自律的な判断力や社会的協調行動に悪影響を及ぼす可能性が指摘されている。チャットボットトの設計において、ユーザーの意見に安易に同調するだけでなく、適切な friction（摩擦）を残すことの重要性が改めて浮き彫りになった形だ。

AI生成動画を高精度に検出 — PES Benchmark v0.2

PES Benchmark v0.2と呼ばれる、AI生成されたモーション（動き）を検出するベンチマークが公開された。報告によれば、Cohen's d = 10.4という極めて高い効果量を記録しており、人間の動きとAI生成の動きを統計的にほぼ完璧に区別できることを示唆している。

ディープフェイク動画の流通が増える中、生成された動きを検出する技術は重要な防御手段となる。特にモーション生成AIの精度が向上するにつれ、静止画ベースの検出では不十分となり、動きのパターンを分析するアプローチの価値が高まっている。

韓国、半導体税収で投資ファンド創設を検討

Bloomberg（聨合ニュース報）によると、韓国は拡大する半導体産業からの税収を活用して、長期的な経済成長を支える投資ファンドを創設する方針を示した。大統領首席秘書官のKang Hoon-sik氏は、チップ産業からの追加税収は将来の成長のために投資されるべきと述べたという。

半導体需要がAIインフラ拡大で急増する中、その税収を国家の長期投資に回すアプローチは他国の参考になるだろう。

EU AI法対応ツールが相次ぎ登場

EUのAI法（AI Act）への対応を支援するツールが2つ話題を呼んでいる。

一つはComplianceAgentで、オープンソースのEU AI Actコンプライアンススキャナー。GitHubで公開されており、組織がAIシステムのコンプライアンス状況を自動的にチェックできる。

もう一つはActHubで、中小企業向けのEU AI Actコンプライアンスツールキット。PHP（フレームワークなし）で構築されており、軽量な実装が特徴だ。

EU AI法の段階的施行が進む中、コンプライアンス対応を支援するツールの需要は高まるとみられる。

その他の動向

  • llama.cppをRaspberry Piで動かす拡張機能がLocalLLaMAコミュニティで共有された。pi-llama-serverという拡張機能で、llama-serverを自動検出して利用可能なモデルをリストアップできる。
  • **Devin CLIの「Adaptive PROMO」**機能について、日本語で解説記事が公開された。モデル選択をシステムに丸投げできるルーターの仕組みを解説している。
  • LLMプロダクトのガードレール設計について、日本語の実践ガイドがQiitaで公開された。入力と出力の両側に安全策を設けるアプローチを紹介している。