ローカルLLM周りで道具整備と実運用データが揃って公開された一日でした。今回は llama.cpp の MCP 完全対応、AMD MI50 の電力効率の実測、4GB VRAM でエージェント環境を構築した実践レポート、そして SEC の AI 監視エージェント調達を中心にまとめます。

llama.cpp が MCP の全プロトコルに対応

ngxson が主導して進めていた MCP 統合が完了し、PR #26062 がマージされました。これまで HTTP 経由の MCP サーバーはクライアント側で扱えていましたが、stdio サーバーを動かすには本当の統合作業が必要で、ここがようやく解消された形です。

llama-cli をサーバーベースの経路に切り替えたことで、既存のネイティブツールサーバー上に MCP サポートが載せられました。結果として llama.cpp の WebUI が完全なエージェントチャットとして使えるようになります。MCP サーバーの設定は標準 JSON の設定ファイルでも、コマンドラインでのインライン指定も可能です。

具体例として挙げられているのは、Serena のようなコーディング向け MCP サーバーを繋ぐ構成。外部依存なしにローカルモデルだけで動くエージェント型コーダーが組めるようで、ローカル完結のエージェント環境を待っていた層にとっては待望のマイルストンと言えそうです。

AMD MI50 の消費電力テスト: 50W がコスパ最適値

Reddit の LocalLLaMA コミュニティで、AMD MI50 (gfx906) で消費電力を制限しながら推論性能を計測したレポートが公開されました。Qwen3.6-35B-A3B の IQ4 量子化、256K コンテキストという実用的な構成での実測です。

最も実用的な結論は「50W 設定でピーク性能の 70% を、消費電力は 26% で出せる」という点。ワットあたりの生成速度は 0.458 t/s/W で、190W 时の 0.173 に対して 3.6 倍の効率です。20W まで絞ると 6.0 倍まで効率が上がりますが、プロンプト処理速度がピークの 53% まで落ちるため、実用上の推奨は 50W とまとめられています。

もう一つの発見は、生成速度よりもプロンプト処理の方が電力制限の影響を受けやすいこと。生成はメモリ帯域依存、プロンプト処理は計算依存のため、スロットリングのかかり方が違うようです。100W でもピーク性能の 97.5% が出るため、推論専用機を組む人は TDP 設定を見直す価値がありそうです。

4GB VRAM でローカルエージェントを構築した実践レポート

同じく LocalLLaMA で、RTX 3050 Ti Laptop (4GB VRAM) でエージェント環境を構築した実践報告が興味深く読めます。i7-12700H / 32GB RAM / Ubuntu 24.04 で、ローカル Qwen を中心に構成したとのこと（Bike4Mind という BUSL-1.1 ライセンスのワークスペース製品を自己ホストしています）。

モデルごとの速度は次の通り。

  • qwen3.5:0.8b — 122 tok/s、約 1.4GB、GPU 全載せ
  • qwen3.5:2b Q4_K_M — 96 tok/s、約 2.4GB、GPU 全載せ（スイートスポット）
  • qwen3.5:4b — 25 tok/s、約 3.4GB、3 分の 1 が CPU に溢れる
  • qwen3.5:9b — 8.6 tok/s、ほぼ CPU

2b が 4GB でも収まり、従来の qwen2.5-coder:3b (72 tok/s) を性能面で上回るため、現状の最適解とされています。

一方でエージェント的に使うには壁も多いです。RAG を組むと embedder (qwen3-embedding:0.6b 約 1.2GB) とチャットモデルが VRAM を取り合うため、毎回モデルの入れ替えが発生します。アーティファクト生成は汎用 qwen3.5 ではタグの閉じ忘れ等が出るため、qwen2.5-coder への切り替えが必要。ツールを多く有効にするとルーティングを間違える問題も指摘されており、小モデルならではの制約が浮き彫りになっています。

SEC が AI エージェントで監視強化を進めるという報告

Hacker News で取り上げられていたのが、米国証券取引委員会 (SEC) が電話の位置情報・SNS・与信ヘッダを監視する AI エージェントを調達しているという報告です。元ネタは Jack Poulson 氏の Substack 記事。現時点では HN での議論も立ち上がり始めたところで、詳細は元記事を参照してほしいのですが、市民的監視の拡大という観点からは注目しておきたい話題です。

まとめ

ローカル側では llama.cpp の MCP 完対応が今後のエージェント構成を大きく変えそうな一方、4GB VRAM の実例は「道具は揃いつつも、小モデル特有の癖と付き合い続ける必要がある」という現状をよく表しています。MI50 の電力データは、推論専用機の TDP 設定を実数で検討する上で良い参考になりそうです。