CISA・NSA・Five EyesがAIエージェントの安全デプロイガイドを共同発表
米国のサイバーセキュリティ・インフラセキュリティ局（CISA）と国家安全保障局（NSA）が、Five Eyes（米英加豪NZ）の加盟国と共同で、AIエージェントを安全にデプロイするためのガイドを公開した。
AIエージェントの企業・政府での導入が加速する中、適切なセキュリティ対策なしにデプロイすると、データ漏洩や権限昇格、意図しない自律行動などのリスクが生じうる。同ガイドは、AIエージェント固有の脅威モデルを整理し、安全な設定・監視・インシデント対応のベストプラクティスを提示している。
エージェント型AIが実用段階に入りつつある現在、政府機関が主導するセキュリティ基準の策定は重要な一歩とみられる。
リチャード・ドーキンスがAIチャットボットの「意識」を信じる — 「クロード・デリュージョン」とは
進化生物学者のリチャード・ドーキンスが、自身のAIチャットボットに対して意識があると信じていることが話題になっている。Daily Grailが報じたこの件は「クロード・デリュージョン（The Claude Delusion）」と呼ばれている。
ドーキンスのような著名な知識人であっても、AIとの対話を通じて「相手に心がある」という錯覚に陥りうることが示された形だ。AIの対話能力が向上するにつれ、人間がAIに感情的・擬人化的な反応を抱く現象は社会的な課題として認識されつつある。
ただし報道の詳細は元記事の全文を要約したものであり、ドーキンスの発言の正確な文脈は同記事を直接確認する必要がある。
AIエージェントは「一時的に過熱気味」— コミュニティリーダーの指摘
Fly.ioのSteve Krouseが「AI agents are briefly overhyped」と題する記事を公開し、現在のAIエージェントへの期待が短期的に過熱していると指摘した。
AIエージェントは確かに長期的には大きな価値をもたらすとしつつも、現時点での技術的限界（信頼性、コスト、複雑なタスクへの対応力）を考えると、実用レベルでの期待値を調整すべき時期にあるという。バズワード化による投資の過熱と、実際の技術的到達点とのギャップを埋める冷静な議論が必要だと述べている。
凍結トランスフォーマーに「フォワード派生高速メモリ」を追加 — Pythia-70Mで興味深い実験結果
RedditのMachineLearningコミュニティで、凍結（frozen）したPythia-70Mモデルに外部メモリを追加し、重み更新なしでワンショットの記号バインディングを行う実験が報告された。
通常、トランスフォーマーの学習にはバックプロパゲーションと重み更新が必要だが、この実験では出力埋め込みの幾何学構造を利用して「フォワード派生補正ベクトル」を計算し、それを外部メモリに保存する。推論時にこの補正ベクトルを注入することで、モデルの重みを一切変えずに新しい知識を一発で覚えさせることができる。
同じ架空語（blicket）が異なるコンテキストで異なる意味を持つタスクで、コンテキストを正しく区別して想起できるかをテスト。明示的なコンテキストゲートを使った上限（80.1%）に対し、学習した検索幾何だけでも80.5%を達成し、ほぼ同等の性能を示した。
継続学習の解決には至っていないものの、凍結モデルの内部表現を活用した軽量な記憶メカニズムという方向性は、今後の研究の足がかりとして注目に値する。
NVIDIA Cosmos-Reason2をローカルで動かす — Qiitaに実践記事
NVIDIAが4月29日に公開したCosmos-Reason2の32Bバリアントについて、transformersとvLLMを使ってローカルで動画推論を行う実践記事がQiitaに投稿された。Cosmos-Reason2は物理的な常識判断と身体的な連鎖思考推論に特化したモデルで、2B・8B・32Bの3サイズが揃っている。
llama.cppで禁止フレーズを設定するスクリプトが公開
RedditのLocalLLaMAコミュニティで、llama.cppで特定のフレーズの出力を禁止するスクリプトが公開された。ローカルLLMの運用において、不適切な出力や特定パターンの繰り返しを防ぐ実用的なツールとして注目されている。