前回「元OpenAI研究者がAnthropicを『制御不能なAI』懸念で退職か」と伝えた安全性を巡る動きが、より具体的な形で報じられました。今回はその続報を中心に、AIエージェント時代のセキュリティ投資、企業のAI支出の変化、そしてローカル推論の高速化に関する話題をまとめます。

Anthropicの安全性を巡る内部の声──退職者の告発と「10%超」という試算

The Decoderの報道によると、OpenAIとAnthropicの両方で事前学習（pretraining）研究に携わったJacob Coxon氏が両社を退職し、両社が人類の絶滅リスクを知りながら開発を進めていると告発しています。CNNも「もう一人のAI従業員が安全性への懸念から退職した」と伝え、Axiosは「Anthropic内部者がAIに全人類が殺されうると警告」と報じており、複数の媒体が同様の流れを捉えています。

より注目されるのは、退職した人物ではなく現職研究者の発言です。AnthropicのEvan Hubinger氏は、整合性の取れていない超知能AIが今後10年以内に人類を滅ぼす確率を10%超とみている、とThe Decoderは伝えています。

開発の当事者が自らリスクを数量化して語るのは珍しく、安全対策の優先順位を考える上での一つの基準になりそうです。ただしこれらは個人の見立てであり、現時点では各社の公式見解として示されたものではありません。

SequoiaがCymphonyへ続投──AIエージェントが生む新しいセキュリティリスク

TechCrunchによると、エージェント向けセキュリティ企業のCymphonyが、SequoiaとSMBC Fin Atlas Beyond Fundが共同リードする2,500万ドルのシリーズAを調達し、1億ドル超の評価額となりました。

背景にあるのは、AIエージェントが企業のシステムへ自律的にアクセスするようになったことで、従来の認証や権限管理の枠組みでは想定していないリスクが生まれつつあるという問題意識です。エージェントの業務利用が広がるほど、エージェント自身を守る・監視する層の需要が増えるとみられます。

従業員あたりのAI支出が減少──トークン単価下落の裏側

TechCrunchの分析記事によると、大手企業における従業員あたりのAI支出は8月に落ち込みました。トークンコストの下落、より安価なモデルの登場が進み、結果として1人あたりの支出額が減っているとされます。

ハイパースケーラーが想定したような「利用拡大がそのまま収益拡大につながる」構図とは異なる展開で、夏場の一時的な低迷なのか、単価低下が利用増を相殺する構造的な変化なのかは今後の注目点です。

メモリ不足に挑む4億ドルのステルス企業、Kepler Computing

WIREDの記事では、ステルススタートアップのKepler Computingが、新しいチップ設計のアプローチと独自材料で、メモリ価格を急騰させている供給ボトルネックの解消を目指していると紹介されています。

AI需要の拡大でメモリがひっ迫し価格が高騰する中、既存のHBM（高帯域幅メモリ）とは異なるrouteからのアプローチがどれだけ現実的なのか、今後の製品化の進展を見極めたいところです。

InstacartがAI買い物アシスタント「Clementine」を投入

TechCrunchによると、Instacartが会話型AIアシスタントのClementineをローンチしました。食品雑貨のショッピングアプリに会話型AIを組み込むもので、消費者向けAIアシスタントが検索やチャット以外の日常的な場面にも定着しつつあることを示す例といえそうです。

ローカル推論の最前線──M3 Ultraで60トークン/秒、ブラウザで27Bモデル

RedditのLocalLLaMAコミュニティからは、ローカル推論の速度を大きく引き上げる2つの取り組みが報告されました。

1つ目は、GLM-5.3-FlashのQ4量子化モデルをM3 Ultra上で動かすオープンソースエンジン「ds4」の最適化記録です。重みストリーミングの大きなカーネルの間に挟まれた数十個の小さなカーネル群を統合し、無駄なパスを削った結果、メモリ帯域の利用率を約81%まで高めたといいます。その結果、短いコンテキストでは29→40トークン/秒、62kコンテキストでは24→38トークン/秒、300kコンテキストでも21.6→37.4トークン/秒と、長文脈での劣化を大きく抑えられています。プロンプト処理（prefill）も366→550トークン/秒と50%改善。精度面でもFP8参照との平均NLLがほぼ一致し、100プロンプト中90で初トークンが一致するとしており、速度と品質のトレードオフなしを強調しています。約200kのコンテキストを消費するエージェントハーネスでの実測という点がユニークです。

2つ目は、WebGPU/WGSLでスクラッチから書かれたブラウザ内推論エンジン「mentria.ai」の報告です。1ビット量子化のBonsai-27B（実質約1.14ビット/パラメータ、3.8GB）を、6GB VRAMのRTX 3060 Laptop上のChromeで25〜30トークン/秒で動かすというものです。注目の最適化は、1ビット行列×ベクトルカーネルで「4重みの部分積は16通りしかない」ことを利用して計算を先に済ませ、バンクコンフリクトを1スロットのパディングで回避した点。インストール不要で、データが端末の外に出ないという切り口も特徴です。

いずれも特定ハード・特定量子化に依存した最適化ではあるものの、ローカルでフロンティア級の体験を追う動きは今後も続きそうです。