ローカルで巨大モデルを動かす試みと、エージェントの信頼性を引き上げる工夫が相次いで話題になっています。DeepSeekの最新モデルを小型クラスターで運用する事例や、同じモデルでもツール呼び出しの成功率が大きく変わる理由、操作を録画してAIに覚えさせる新機能など、実運用の知見が目立つ一日でした。一方で、モデルの安全性と使い勝手のバランスを取る調整や、AI規制法案の行方も報じられています。

AnthropicがFable 5の生物学的制限を緩和、誤検知によるフォールバックを約85%削減

Anthropicは、AIモデル「Claude Fable 5」の生物学分野における過度な保護機能を緩和したと発表しました。安全性を重視するあまり、無害な質問まで弾いてしまう誤検知や、意図せず下位モデルへ切り替わるフォールバックが頻発していた問題に対処するもので、誤検知に起因するフォールバックを約85%減らしたとしています。

前回報じた安全設定の見直しに続く動きで、ポイントは「何を残し、何を緩めるか」の線引きです。危険性の高い専門的な二重用途研究に対する制限は維持したうえで、一般的な健康や教育といった日常的な用途での利便性を改善しています。安全基準を保ちながら過剰反応を抑えるという、モデル運用でよく悩む課題の一案と言えそうです。

DeepSeek V4 Flash 0731(304B)をDGX Spark 2台で1Mコンテキスト運用する挑戦

ローカルLLMコミュニティでは、DeepSeek-V4-Flash-0731を2台のNVIDIA DGX Sparkで動かし、フル1Mコンテキストで運用しようとする取り組みが注目を集めています。このモデルは304BパラメータのMoEで、1層あたり256のルーテッドエキスパートを持ちます。ハードウェアにはGB10 Grace Blackwellを搭載するDGX Spark(各128GBのユニファイドメモリ)を2台使い、ConnectX-7ファブリックで接続。vLLM 0.26.1rc1とCUDA 13.0を組み合わせ、テンソル並列(TP=2)とDSparkによる投機的デコーディング(ドラフト受容率約80%)で推論を回しています。

工夫が求められるのはメモリ管理です。ユニファイドメモリをモデルが占有するため、OS用に残せるのはわずか5〜7GBにとどまり、RAMが埋まるとマシンがロックアップしてしまうという課題があります。そこで、KVキャッシュの圧縮やスパースアテンション(indexer top-k 512)、YaRNによる1Mコンテキスト較正といった仕組みを活かしつつ、どうヘッドレームを確保するかがコミュニティで議論されています。自宅クラスターで超大型モデルを動かす際の現実的な知見が詰まった事例です。

同じ8Bでも7%と84%に分かれる――ツール呼び出しの信頼性は「配信層」で決まる

面白い指摘が上がっています。同じ8Bパラメータの重みを、同じマシンで動かしても、エージェントのツール呼び出し成功率が一方は7%、もう一方は84%に開いてしまうというものです。差の原因はモデルの賢さではなく、モデルを「配信する側」、つまりAPIやサービングの作りにあると指摘されています。

ローカルLLMでエージェントを組んだ経験がある人なら、途中でツール呼び出しが壊れてつまずいたことがあるでしょう。この話題は、問題がモデル本体ではなく配信レイヤーに潜んでいる可能性を示しており、エージェント実装の信頼性を引き上げる上で重要な視点です。エージェントの「信頼の置き方」の甘さを指摘する声もあり、モデルの性能を活かすには周辺の設計が鍵になりそうです。

Claude Coworkの「スキル録画機能」で繰り返し作業を手放す

操作を録画してAIに覚えさせるというアプローチが話題です。Claude Coworkのスキル録画機能を使い、人間が行う手順を記録して再利用可能なスキルとしてAIに持たせることで、定型的な繰り返し作業を肩代わりさせる考え方が紹介されました。

プロンプトを毎回書き直すのではなく、実際の手順をそのまま教え込める点が特徴で、業務の自動化を考える際の現実的なアプローチとして注目されています。

米上院、AI規制「Clarity Act」の採決を8月休暇後に先送り

規制面では、米上院がAI関連法案「Clarity Act」の採決を8月の夏季休暇後に先送りしました。報道によると、政府機関のシャットダウンを回避するための資金法案や、ロシア制裁法案の行方など、複数の重要法案が並行して議論される中での動きです。AI規制の立法化は議会の日程に左右される面が強く、成立時期は今後の議論を待つ必要がありそうです。

まとめ

ローカルで巨大モデルを動かす実践、エージェントの信頼性を支える配信層の重要性、作業手順をAIに教える録画機能と、実運用に直結する話題が並びました。モデル側では安全設定の微調整が、政策側では規制法案の日程調整が進む、実務者にとって見逃せない一日でした。