AI開発の減速をめぐる議論が、具体的な中身を伴い始めています。Sam Altman氏は訓練前の安全チェックの運用や競合他社との共同自主規制の協議を進めていることを明かし、英国では議会側からAIの人権への脅威に対応する新法の制定を求める声が上がりました。ローカルLLM界隈では84GB VRAMの新GPUの登場が話題になると同時に、限られたメモリで大型モデルを回す工夫の記録も共有されています。本日気になったニュースを整理します。

Altman氏の「ペーシング」に中身が伴い始める──訓練前の安全チェックと3社協議

Sam Altman氏がAI開発のペース配分（ペーシング）について、これまでの「減速しても進歩は続く」という主張をさらに具体化する内容を示しました。The Decoderの報道によると、OpenAIは主要な訓練を実行する前に安全チェックを走らせる運用を始めており、さらにThe Informationの報道として、AnthropicおよびGoogleと数ヶ月前から共同自主規制について協議を重ねていることが分かりました。

一連の減速論争は、これまでも各社トップの発言を通じて報じられてきました。CNBCは「Altman氏がAI業界が減速したがる理由を明示する」と題して、AnthropicのAmodei氏やMusk氏への言及とともにこの動きを伝えています。またWSJは「資金と安全性の衝突がAIに重大な危機を生んだ」とする解析記事を掲載し、急拡大する投資と安全への配慮がどう噛み合わなくなったのかという構図を示しています。

昨日はOpenAIが安全性への懸念からIPO計画を一時停止したとの報道を取り上げましたが、注目すべきは個別の意思決定よりも、安全チェックの制度化や競合3社による自主規制の協議という「仕組み」の話に移りつつある点です。発言の応酬から運用の設計へ──議論の粒度が変わってきているとみられます。

英国議会、AIの人権への脅威に新法で対処せよと要求

英国では議会側から規制を求める声が上がっています。BBCの報道によると、庶民院・貴族院の議員らが、AIによる人権への脅威に対処するための新法の制定を求めました。

現時点で報道から読み取れるのは、議員らが既存の法制度ではAIがもたらす人権リスクに対応しきれないと判断し、新たな法制を求める声を上げたという点です。どのような内容の法案が想定され、いつ提出されるのかは明らかにされておらず、今後の動向を待つ必要があります。

米国では減速をめぐる議論が事業者側の自主規制を軸に進む一方、英国では議会立法による対処という道が模索されているようです。市場の自己規制と法による規制のどちらが先に実効性を持つかは、今後のAI政策の焦点の一つになりそうです。

RTX PRO 5500 Blackwell 84GB登場──「GPUポア」の工夫も加速

ローカルLLMコミュニティでは、RTX PRO 5500 Blackwell（84GB VRAM）のリリースが話題になりました。1枚で84GBというVRAM容量はコンシューマーGPUでは到達できなかった水準で、大型モデルのローカル実行の選択肢が広がりそうです。

一方で、高価な新GPUに手が届かないユーザー側の工夫も続いています。r/LocalLLaMAでは、RTX 5060 Ti（16GB VRAM）と32GB RAMの環境でQwen 3.8 Nextを動かす試みが共有されました。約68.95GBのREAP量子化版を対象に、モデルの大半を占める巨大な検索テーブル（N-gram部分）はlazy mmapでSSDからストリームさせ、残りの重みとKVキャッシュをVRAMとシステムメモリに詰め込むことで実用に耐える速度を確保する──という構成です。

また「ChatGPT Plusを解約してフルローカルに移行したい。コスパ良く最大のVRAMを得られるGPUは何か」という相談も投稿されており、クラウドAIへの課金を見直してローカルに移行する流れが一定数あることがうかがえます。ハイエンドの新GPUと、限られた環境での工夫──両極の動きが同時に進んでいるのが現在のローカルLLM事情です。

チャットボットで自分の物語を書く読者たち

出版業界が著者のAI利用をめぐって頭を悩ませる一方で、読者側では自分の好みの物語をチャットボットに書かせる楽しみ方が広がっているようです。WIREDの記事は、そうしたカスタムフィクションの作り手たちの実像に迫っており、記事のタイトルにもなっている「I Like My Big Rat Wife（私は私の大きなラットの妻が好き）」は、そのようにして生まれた作品のひとつだといいます。

商業出版の AI 利用をめぐる議論は、主にプロの作家と出版社を中心に進んできました。しかし個人が自分のために物語を注文するという使われ方は、市場には存在しなかった需要をAIが直接満たしている例とみられます。出版を「供給側」だけの問題として語る議論に、読者側の動きがどんな影響を与えるのか──そんな問いを投げかける報道です。

プロンプト注入、1,509試行の実測──成否を分けたのは「手数」

セキュリティ面では、国内開発者による大規模な実測が注目されます。Zennの記事では、多段エージェントへの間接プロンプトインジェクションをGemini 5モデルで1,509試行し、その成否を分析しています。

結果は興味深いものでした。モデル間の耐性差は事前登録した分析単位では統計的に有意にならず、最も有力な説明は「注入に必要な手数」だったといいます。機密情報をそのまま送らせるだけの1手の攻撃は28.0%成功したのに対し、一度照会させてから送らせる2手の攻撃は6.7%にとどまったとのことです。ただし独立した単位で検定すると片側p=0.0625であり、厳密には有意水準0.05には届かなかったと著者は慎重に留保しています。

さらにGoogleのModel Armorは、最も検知しやすい設定でも検証用の凍結コーパス24本をすべて素通ししたほか、フィルタ版の指定がエイリアス経由で、移行予告がサニタイズログの奥にしか出ないといった運用上の落とし穴も指摘されています。防御を堅くするなら「時間をかけさせる」──機密への到達経路に手数を増やす構造にするのが有効かもしれない、という示唆を含む実測です。

AIエージェントに実行権限を渡さない──半年運用が導いた「身体と頭脳の分離」

最後に、AIエージェントの設計思想に関する実践記です。Zennの記事で、株式会社DeploAIの袖山氏が、仕事の滞留を見つけて直して確認するまでを自動で回す常駐エージェントを半年ほど運用した記録の公開を始めました。

最初はLLMにツールを持たせて実行まで任せる構成だったといいます。しかし現在は、LLMに実行権限を一切渡さず、判断だけをLLMが行い、実行は決定論的なコードが担う構成に切り替えています。「身体と頭脳の分離」と著者が呼ぶこの設計に至った理由と、具体的にどう線引きしたかがシリーズでまとめられる予定です。

LLMの判断は確率的で、同じ入力でも出力が揺らぎます。一方、実行を決定論的なコードに寄せれば、失敗の再現・検証・修正がしやすくなる──エージェントを常時稼働させる用途では、この分割が保守性を左右するという指摘は、多くの実装者にとって参考になりそうです。

まとめ

減速論争が具体的な仕組みの設計段階に入り、規制のアプローチも国によって形が分かれ始めています。その一方で、ローカルLLMの工夫やエージェント設計の知見といった現場の積み重ねは着実に続いています。目玉の速報だけでなく、こうした地道な記録を追うことも、AIの現在地を見誤らないための手がかりになりそうです。