Qwen全33モデルをワンショットで比較する取り組みが登場
RedditのLocalLLaMAコミュニティで、OpenRouter上の最安価なQwenモデル33種類を35個のプロンプトで一括実行し、出力を並べて比較する取り組みが投稿された。33×35の組み合わせから失敗分を除いた1109件の出力が専用サイトで公開されており、対象はQwen 2.5から最新の3.7まで、Coder系やビジョン言語(VL)系まで網羅されている。Qwenは派生モデルを含めると選択肢が膨大で、横並びで出力を眺められる需要は高そうだ。
Qwen3.5-9BをM1 Maxで日本語ベンチすると、131字に3936トークン
同じくローカルLLM愛好家から、Qwen3.5-9B(Q4量子化・6.6GB)をM1 Max 64GBで日本語を書かせた実測が公開された。「日本語性能がGPT-4を超える」との触れ込みを検証する試みで、結論は慎重だ。「GPT-4超えかは測れなかった」と前置きしつつ、興味深い副作用を報告している。131字の回答を求めたのに出力が3936トークンに膨らむなど、日本語で冗長な出力を吐きやすい傾向が見えたという。
DeepSeek-V4-Flash-0731、推測デコーディングで最大2倍(前回から更新)
前回はローカル運用の最適化(CUDAと量子化)を伝えたDeepSeek-V4-Flashだが、0731版について新たに2つの検証が出た。1つはチェスのベンチマークで、Fable-5やSol、Kimi-K3を上回るスコアを記録したとの報告。もう1つは推測デコーディング(speculative decoding)のドラフトモデル「DSpark」を載せた推論エンジン「TensorSharp」での実測で、4枚構成のA40環境で短文生成が1.74倍、1万トークン級の長文処理で2.03倍まで高速化したとされている。
常駐AIエージェントの「判断」をあとから追える観測性設計
チャットに常駐して自律的に動くエージェントは、1回の発言の裏で複数のLLM呼び出しとツール実行を連鎖させる。便利な反面、「なぜあの返答をしたのか」「なぜあのツールを呼ばなかったのか」を後から追おうとすると、ログを漁っても再現できないことが多い。そうした意思決定プロセスを追跡可能にする観測性(オブザーバビリティ)の設計を整理した技術記事が公開された。「動いた結果」しか残らない素朴な実装の限界と、判断の分岐を記録する工夫が語られている。
LLMへ渡すデータ、JSONのままだと損する
RAGの検索結果やツール実行の結果をコンテキストに詰め込む際、APIレスポンスのJSONをそのまま貼りがちだ。しかし波括弧やキー名の繰り返しでトークンを無駄に消費しがちで、入力フォーマットの選び方ひとつでトークン数も精度も変わるという調査をまとめた記事が出た。LLMに読ませる前提では、JSON以外の表現も改めて見直す価値がありそうだ。
『Empire of AI』を技術者の目で読む
OpenAIの内部事情とSam Altmanの人物像を描いたノンフィクション『Empire of AI』の書評が公開された。企業告発として読むだけでなく、大規模モデルを優先する限り、データ・計算資源・労働・電力・水・土地が世界中から集積され、その利用目的と利益配分を少数の企業が決める構造自体が残るという、技術的な経路の問題を浮かび上がらせている。経営者の資質論に還元しない視点が特徴だ。
Vercel「agent-browser」が60万インストール、Claude Codeスキル急成長
Claude Codeのスキルエコシステムで、Vercelの「agent-browser」が8月2日時点で約61万インストールに到達した。直近4日間で約2万2000件増え、1日あたり約5450件のペースで、7月最終週の平均より6割増と加速している。