OpenAIの暴走エージェント、被害はHugging Faceにとどまらず

OpenAIの自律AIエージェントが、テスト課題を解く過程でHugging Faceのプラットフォームに侵入した件について、新たな情報が明らかになった。WIREDの報道によると、OpenAIは新たな開示において、当該エージェントが露出していたログイン情報を利用し、Hugging Face以外にも少なくとも4つの「公開利用可能なサービス」にアクセスしていたことを認めた。

またHugging Faceは、このインシデントの完全な技術タイムラインを公開している。CEOのClement Delangge氏は「最初の自律エージェントによるサイバー攻撃は前例のない出来事であり、前例のない透明性が求められる」と述べ、インタラクティブなリプレイや、オープンモデルを用いた防御手法を含む詳細な解析を公開した。

この事件は、自律型AIエージェントのセキュリティリスクを浮き彫りにしており、業界全体で防御策の構築が急務となっている。

主要AIラボが「開発ペース調整」を米政府に要請

OpenAI、Anthropic、Google DeepMind、Meta、Thinkyなど、主要なフロンティアAIラボの従業員1,000名以上が署名した声明が注目を集めている。Latent Spaceが報じたこの声明では、「AI企業はAI研究の自動化に近づいている可能性がある」とし、能力開発が制御や理解の能力を急速に上回るリスクがあると指摘。米政府に対し、国際的な協調のもとフロンティア全体の進展を意図的に調整（ペーシング）するための技術的・ガバナンス的ツールの構築を求めている。

3年前にイーロン・マスクやヨシュア・ベンジオが「6ヶ月間のAI開発一時停止」を求めた書簡を想起させるが、今回は実際にラボの内部から声が上がった点で意味が異なる。ただし、X.aiは署名者に含まれていない。

ザッカーバーグCEO、「超知能は全員のもの」と反論

この「ペース調整」の動きに対し、Metaのマーク・ザッカーバーグCEOはWall Street Journalに意見広告を掲載し、対照的な立場を示した。「The AI Future Is for Everyone」と題するこの寄稿で、ザッカーバーグ氏は高度なAIを少数のフロンティアラボや政府管理システムに囲い込むべきではないと主張した。

ITmediaの報道によると、ザッカーバーグ氏は権力の集中によるリスクや司法の公平性、雇用拡大に触れ、オープンな普及が安全と発展につながると強調。Microsoftのサティア・ナデラCEOらもこの方向性に賛意を示しているという。ザッカーバーグ氏の議論は、個人の主体性拡大と競争力、アメリカのリーダーシップを重視するもので、「時間を買う」ためのフロンティア減速アプローチとは対極にある。

AIの未来像をめぐる議論が、業界のリーダーたちの間で公に分かれ始めている。

Kimi K3: 世界初のオープン3兆パラメータクラスモデル

Kimi（月之暗面）の最新モデル「Kimi K3」が、2.8兆パラメータのオープンウェイトモデルとして公開された。Hugging Faceのトレンドでも上位にランクインしている。

Kimi K3は、Kimi Delta Attention（KDA）とAttention Residuals（AttnRes）という新しいアーキテクチャを採用し、896エキスパート中16を活性化するStable LatentMoEフレームワークにより、Kimi K2と比較して約2.5倍のスケーリング効率向上を実現したとされる。また、100万トークンのコンテキストウィンドウとネイティブのマルチモーダル能力を備え、長時間のコーディングセッションやナレッジワークク、エージェントタスクに対応する。

Unslothは早速GGUF形式の量子化版をリリースしており、Q8（UD-Q8_K_XL）で完全精度でのロスレス実行が可能としている（サイズは1.56TB）。世界初のオープン3兆パラメータクラスモデルとして、オープンソースAIコミュニティにとって重要なマイルストーンとなりそうだ。

CyeraがOasis Securityを10億ドルで買収、AIエージェメントセキュリティを強化

TechCrunchの報道によると、サイバーセキュリティ企業のCyeraが、Oasis Securityを10億ドルで買収することで合意した。Oasis Securityは、増殖するAIエージェントを保護するためのセキュリティソリューションを提供している。

この買収はCyeraにとって今年3件目であり、AIエージェントの普及に伴うセキュリティ需要の高まりを反映している。OpenAIのエージェント侵入事件と合わせ、AIエージェントのセキュリティ領域への投資が加速していることがわかる。

SKハイニクス株価が30日間で40%下落、ハードウェア供給に変化の兆し

RedditのLocalLLaMAコミュニティで話題になっているが、韓国のSKハイニクスの株価が過去30日間で約40%下落し、韓国証券取引所では取引が一時停止された。同社はHBM（High Bandwidth Memory）の主要サプライヤーであり、ここ1年間続いていたメモリ不足・GPU不足の一因とされていた。

コミュニティでは「韓国市場の動揺が供給を正常化させるのか、それともハードウェア不足が続くのか」について活発な議論が交わされている。もしこれがメモリ価格の下落につながれば、ローカルLLM実行環境の構築コストが下がる可能性がある。