Anthropic開発者、Fable 5のプロンプトのコツは「自分の盲点を見つけること」
Anthropicの開発者であるThariq Shihipar氏が、Claudeの新モデル「Fable 5」を使いこなすためのプロンプト技法を共有した。同氏は、Fable 5においてボトルネックとなるのはモデルそのものではなく、**ユーザー自身のブラインドスポット(盲点)**だと指摘する。
具体的には「blindspot passes(盲点パス)」と呼ぶ手法や、構造化インタビューを通じて、プログラマーが自分の無意識の知識ギャップを体系的に洗い出してからClaudeに実装を任せるアプローチを推奨している。モデルの能力が向上した今、問いの質を上げることが最大の鍵になるというメッセージだ。
DFlash、EAGLE-3の逐次処理を捨てて6倍高速化
投機的デコード(speculative decoding)の新手法「DFlash」が注目を集めている。従来のEAGLE-3などがドラフトモデルによるトークン予測を逐次的に行っていたのに対し、DFlashはドラフトを1回で生成するアーキテクチャを採用。出力品質を変えることなく、推論を最大6倍高速化するという。
投機的デコードはこの2年で定番の高速化テクニックとなっていたが、ドラフト生成のオーバーヘッドが課題だった。DFlashはこの問題を根本から見直すアプローチと言え、ローカルLLMの実用性をさらに引き上げる可能性がある。
RTX 5090でGemma 4-31Bのコンテキストが35k→80kに
RedditのLocalLLaMAコミュニティで、RTX 5090上でGemma 4-31B(Q6_K量子版)のコンテキストを35kから80kトークンへ大幅に拡張する手法が共有された。
ポイントはllama.cppの設定にある。環境変数GGML_CUDA_NO_PINNED=1を有効にし、--backend-sampling --parallel 1オプションを指定することで、VRAM効率が大きく改善するという。先日DeepSeek V4 Flashでも同様の手法が報告されていたが、Gemma 4でも有効であることが確認された。コンテキスト長の制約に悩むローカルLLMユーザーにとって、実用的な Tips となっている。
2万ドルのローカルAIリグ、損益分岐点は27ヶ月以降
同じくLocalLLaMAで、2万ドル(約300万円)のローカルAIリグのコスト分析が話題を呼んでいる。投稿者は「ハードウェアを買えばあとは無料」というよくある主張に対し、電気代を含めた実際の計算を提示。
月額200ドルのホスティングサービス(ChatGPT等のサブスク)と比較した場合、損益分岐点は**約27ヶ月(2年以上)**に達するという結果になった。減価償却、再販価格の下落、機会費用を考慮すると、実質的な損益分岐点はさらに先に伸びる。ただし、プライバシーやオフラインアクセスの価値を優先するなら、ローカルには依然として意味があるとの結論だ。
AIデバッグの「当たり外れ」を減らすには
Qiitaで、AIに「このバグ直して」とエラーを丸投げするアプローチの限界と、より効果的なデバッグ手法を解説した記事が公開された。
スタックトレースをコピーしてAIに貼り付ける手法は速いが、当たり外れが激しいという。記事では、デバッグを「推測ゲーム」から「科学」に変えるための実践的なガイドを提示しており、AIを効果的に使うためのコンテキスト設計や、問題の切り分け方などが詳しく解説されている。