FastDMS: KVキャッシュ6.4倍圧縮でvLLMを上回る推論速度

NVIDIA、ワルシャワ大学、エディンバラ大学の研究者が発表したDynamic Memory Sparsification（DMS）を本格実装した「FastDMS」がオープンソースで公開された。KVキャッシュを最大6.4倍に圧縮しながら、vLLMのBF16推論比でデコード速度1.5〜2倍を達成している。

従来のDMSはHFリファレンス実装で約18 tok/sと実用性に課題があったが、FastDMSはカーネルレベルの最適化により、Llama-3.2-1Bでデコード698.9 tok/s（vLLM BF16比1.52倍）、Qwen3-8Bで3,606.9 tok/s（同1.53倍）を記録。TurboQuant 4bitを速度・メモリ使用量の両面で上回る結果となった。

品質面でも、KLダイバージェンスがvLLM FP8やTurboQuantよりも低く、96.9%のトークン一致率を維持。「圧縮による品質低下が実質ない」ことを実証している。ただし、vLLMへの統合にはPagedAttentionやスケジューラなどほぼ全サブシステムの大幅改修が必要で、本格的なプロダクション導入にはハードルが残る。

MITライセンスで公開されており、ローカルLLMコミュニティで大きな注目を集めている。

GoogleがGemini APIにEvent-Driven Webhookを追加

GoogleはGemini APIにおいて、長時間実行ジョブ向けにEvent-Driven Webhookの提供を開始した。従来のポーリングベースのステータス確認に代わり、プッシュ通知型のシステムにより非効率な定期アクセスを排除できる。

ファイル処理や長時間のバッチ推論など、完了までに時間を要するタスクにおいて、開発者はWebhookエンドポイントを登録するだけでジョブ完了時に自動で通知を受け取れるようになる。これによりAPI呼び出しの無駄を削減し、レイテンシも改善される見込み。

HyperFrames: AIエージェントがコードで動画を構成

HeyGenが発表した「HyperFrames」は、AIエージェントがHTML、CSS、JavaScriptを記述することで動画を合成する新しいアプローチだ。

従来の動画生成AIが映像を直接生成するのに対し、HyperFramesはプログラマブルな動画構成という異なる方向性を提示している。テキストプロンプトからコードを生成し、それを実行して動画を出力する仕組みで、レイアウトやアニメーションの細かな制御が可能になる。

Hacker Newsで「AI agents compose videos by writing HTML, CSS and JavaScript」として話題を呼んでいる。

AIがNASAデータから100個の隠れた惑星を発見

AI技術を使ったデータ解析により、NASAの観測データから100個の新しい系外惑星が発見された。その中には「極端な世界」と呼ばれる特殊な環境を持つ惑星も含まれているという。

Science Dailyが報じたこの発見は、AIが単にテキストや画像生成だけでなく、科学的データマイニングにおいても強力なツールになりつつあることを示している。従来の手法では見逃されていた微弱なシグナルをAIが検出できたことが鍵となった。

「AIが仕事をする時、私たちは何を失うのか」が議論を呼ぶ

Hacker Newsで15ポイントを獲得して議論を集めている「What do we lose when AI does our work?」というエッセイが、AI普及の影を照射している。

AIによる業務効率化が進む一方で、人間が仕事を通じて得ていた学習機会や専門性の形成、創造的プロセスそのものが失われる可能性を指摘。コメント欄では「AIに任せきりにすることで成長機会を失う」「しかしAIを使わない選択も難しい」といった葛藤が語られており、AI時代の働き方を考える上で重要な視点を提供している。