今夕の収集枠では、AIエージェントが仕事の中身を変えつつある様子と、ローカルLLMの「収容量」を競う動きが目立った。Andrej Karpathyによる「コードを書かなくなった」発言、LLMエージェントと産業制御系のリスクを測るベンチマーク、コンシューマGPUで動くFlashMLA、192GB Framework、そして35万トークン運用の実測を整理する。

Karpathy「12月以降、コードは一行も書いていない」

Andrej Karpathyが、Sarah Guoがホストを務めるポッドキャスト「No Priors」に登壇し、自身について「12月以降、コードを一行も書いていない」と語ったことが話題になっている。日本語の要点解説記事によれば、対談の中心は「AIエージェント時代に、エンジニアの仕事は何に変わったか」を実感ベースで語る回で、コードを書かなくなった今も開発の仕事は続いており、その中身が何に置き換わったのかを語っているという。

同記事は元動画の全文翻訳ではなく、筆者による要点の抜き出しと論評を主体にしたものとしている。正確なニュアンスは元動画で確認してほしいが、「コードを書く」ことが実務の中心から外れつつある感覚を、LLM開発の最初期から携わってきた人物が実名で語った一点が注目される。

役割が「書く人」から「指示と検証をする人」へ移る中で、何を残し何を任せるのか。Karpathyの発言は、この問いを現場に改めて投げかけた形だ。

LLMエージェントと産業制御系──PLCBench

セキュリティ面では、自律LLMエージェントがPLC（Programmable Logic Controller、産業用制御装置）へのアクセスを得た先で、持続的な物理的な影響を及ぼしうるかを問うベンチマーク「PLCBench」の論文がarXivに投稿され、Hacker Newsでも共有された。

タイトル自体が「Can Autonomous LLM Agents Turn PLC Access into Sustained Physical …（自律LLMエージェントはPLCアクセスを持続的な物理的影響に転換できるか）」という問いの形をしている。工場やインフラの制御は今もPLCが支えており、エージェント型AIが運用業務に組み込まれていく将来を考えると、デジタル領域の操作が物理側へどこまで波及しうるかを測る基準が整備される意義は小さくない。ベンチマークの設計と結果の詳細は論文本文を確認してほしい。

コンシューマBlackwellでFlashMLA──MLA処理が最大3倍

DeepSeek由来のMLA（Multi-head Latent Attention）高速カーネル「FlashMLA」は、これまでデータセンターGPU（sm_90 / sm_100）向けのビルドしか提供されていなかった。r/LocalLLaMAに投稿された取り組みでは、コンシューマ向けBlackwell（sm_120、RTX 50シリーズなど）向けにビルドした版がGitHubで公開され、PyTorch標準のSDPAと比べて2〜3倍の性能向上が報告されている。

投稿のベンチマーク表によると、sparse FP8デコード（b=128、topk=2048）で0.809ms vs 2.118ms（2.62倍）、dense S=8192の学習（forward+backward）で9.911ms vs 30.105ms（3.04倍）、sparse prefillの学習でも3.01倍と、attentionが支配的なワークロードで差が開く。FP8 KVキャッシュとの組み合わせでは、レイテンシを8%下げつつキャッシュメモリを1.84倍削減できるとしている。

一方で投稿者自身、モデル全体のBF16キャッシュデコードはほぼ互角のため、カーネル単体の数字がそのままエンドツーエンドの3倍になるわけではないと注意を促す。効果が大きいのは長文脈の学習とsparse prefillだとのこと。オープンソースで公開されているため、ローカルでMLA系モデルを動かしている人は試す価値がありそうだ。

192GB Framework登場、そして35万トークン運用の現実

ローカルLLM向けハードでは、Framework Desktopに192GBメモリ構成のSKUが公式サイトに掲載されたことが話題になった。価格は未告知で、現行の32/64/128GBの価格帯から推してマザーボード単体でおよそ4,500ドル前後になると見る声もある（投稿者による推測）。背面に開放型のPCIeスロットが用意され、75W供給に対応する可能性があるという観測もあり、GPUを増設できる構成への期待が集まる（こちらも伝聞・推測を含む）。

ソフト・運用の側では、Qwen3.8-Flash-Next（79GB・2ビット量子化）を128GBのMacBook Pro（M5 Max）で35万トークンのコンテキストスロットに載せ、100ターン・3.5時間にわたって速度と文脈深度を記録した検証が注目された。llama.cppのYaRNでネイティブの262,144トークンから358,400トークンへ引き伸ばした構成で、最深169,425トークンまで到達。生成速度は小さいコンテキストで毎秒30〜35トークンから、17万トークン付近で毎秒11.5トークンへ漸減したが、対話としては使い続けられたという。プリフィックス再利用が効く通常ターンの処理は数秒で済み、105Kトークンの全量プリフィルに333秒かかったのはアイドル明けの1回だけだったとしている。

興味深いのは品質側の報告だ。最初の10万トークン付近までは良好だったものの、その先の長文脈タスクで「ユーザーの発言と自分の出力を混同する」ロール混同が起き、使うほど悪化したという。原因はKV量子化（fp16で運用しており除外済み）でもロープ外挿（最深でもネイティブ262K未満）でもなく、2ビット量子化とプレビュー版モデルの長文脈品質が疑わしいとのこと。巨大コンテキストを「積める」ことと「活かせる」ことの間には、まだ距離がありそうだ。

データの使い道への視線──Microsoftの声明とAI Studioの報告

AIサービスのデータ扱いをめぐる小さな信号が2つ拾えた。1つは、Microsoftが新しいプライバシー声明でユーザーデータのAI学習利用を明示したとする話題がSlashdotへの投稿として流通していること。もう1つは、Google AI Studioで削除操作の後もバックエンド側にデータが残り続けると報じる「Critical」指定の課題報告がIssue Trackerに上がっていることだ。

いずれも投稿・報告の段階で、声明文の文言や公式の対応は元ページで確認する必要がある。ただ、生成AIサービスのデータ保持と学習利用への関心は続いており、利用する側で規約と設定を確認する習慣がまた問われそうだ。

Internet Archiveが「ヴィンテージAI」コレクションを公開

最後に軽い話題を1つ。Internet Archiveに、過去のAI研究・開発にまつわる資料を集めた「Vintage AI」コレクションが公開され、Hacker Newsで話題になっている。LLM以前のAIの文脈を知る一次資料が一か所にまとまった価値は、ブームの渦中にこそ見えにくい「今」との対比という意味でも小さくなさそうだ。

エージェントが物理世界と接するリスクを測る試み、エンジニア役割の変化、ローカルでの巨大コンテキスト挑戦——今日の収集枠は、AIの適用範囲が広がる速度を感じるラインナップだった。