9月5日夜時点のAIニュースから、Claude Codeの課金をめぐる検証、GPT-6 Astraのコード再現性テスト、MacのローカルLLMを速くしたPyTorchの修正など、開発者コミュニティで話題の記事を中心にまとめました。国内エンジニアブログの実測・検証記事に加え、Hacker Newsに投稿された「デスクトップAIの経済性」をめぐる意見も紹介します。

Claude Codeの「さっきの続きやって」が突出して高い理由──プロンプトキャッシュのTTL

Claude Codeを使っていて「長時間放置したセッションに戻ると、再開直後だけ請求が跳ね上がる」という経験をしたことがある人は少なくないようです。Zennの記事が、この現象を公式ドキュメントにあたって整理しました。

結論を要約すると、高額になるのは「トークンをたくさん消費するから」ではありません。同じトークンに乗る単価が変わるからです。プロンプトキャッシュが生きている間はキャッシュ済みトークンの単価が大きく割り引かれますが、キャッシュが切れた直後の再開では全トークンを通常単価で書き込み直すことになります。Fable 5.1の場合、キャッシュが生きているときと切れた直後とでは単価が80倍違うという計算です。

キャッシュの生存時間（TTL）は、サブスクリプション利用なら1時間、APIキーやBedrock経由なら5分。Subagentはサブスクでも5分です。ただしペナルティは再開の1ターン目だけで、2ターン目からは元に戻ります。「休憩のたびに高額請求」というより「長い離席の後の最初の1回だけ割高」と捉えるのが正確そうです。

GPT-6 Astraは「再現性の高いコード」を書く──GPT-5.6 Solとの240試行比較

先日、GPT-6 AstraがChatGPT上位プランに展開されたことをお伝えしましたが、実際に動かして性能を検証した記事も出始めています。Zennの検証記事では、同じCodex CLI・同じ3タスクで、GPT-6 AstraとGPT-5.6 Solを「4つの推論努力度（effort level）× 3タスク × 10試行 = 240試行」で比較しました。

報告されている発見は2つです。1つは、GPT-6 Astraの品質スコアが120試行すべてでタスクごとに同じ値になったこと。同じ指示を繰り返してもブレない、再現性の高さが特徴として現れています。もう1つは、今回のGPT-6 Astraではlow・mediumの推論用トークンが少なかったことです。楽観ロックのタスクでは、low設定の全10試行で記録上ゼロでした。

ベンチマークスコアの伸びだけでなく「同じ結果を返しやすい」という性質は、繰り返し実行して同じ成果物が欲しい自動修正や業務処理で有利に働く可能性があります。ただし3タスクに絞った検証であり、一般化にはより多くのタスクでの追試が必要でしょう。

MacのローカルLLMを遅くしていたのは、モデルではなく「テンソルの次元」

Apple SiliconでローカルLLMを動かすと、なかなか速度が出ないことがあります。その原因の一つがモデルそのものではなく、テンソルの「形」にあった──そう報告するQiita記事が注目を集めています。

自己回帰デコードでは[B, 1, K]のような3次元テンソルの積が頻出しますが、Apple Silicon上では同じ積を計算しているにもかかわらず、3次元であるというだけで遅い計算経路を通ることがあったといいます。PyTorch 2.14は、この形状を2次元に見せ直し、非効率な反復GEMVを一括GEMMに戻す修正を導入しました。M4 Proでの効果にも言及しています。

「重いモデルを載せているから遅い」という直感に対して、推論ライブラリ側の実装詳細がボトルネックになるケースがあるという点が教訓的です。ローカルLLMの速度に悩んでいる人は、モデルの入れ替えの前にPyTorchや推論バックエンドのバージョンを見直す価値がありそうです。

llms.txtを置いて14日間ログを取ったら──148回取得、読まれたのはトップページだけ

AIクローラー向けのサイト案内ファイル「llms.txt」が話題になって久しいですが、実際にAIはどこまで読んでくれるのか。Zennの記事が、自身のサイトにllms.txtを設置して14日間のアクセスログを取るという珍しい実測を報告しています。

結果は148回取得されたものの、目次が案内している先のページはトップページ以外どこも読まれなかった──というものです。さらに筆者は、自分の測定には交絡があり、取得のうち133回は「llms.txtがあったから」とは説明できないことも率直に明かしています。

「AI向けに構造化したメタデータを置けばAIが深く読んでくれる」という想定に対して、現状のAIの挙動はもう少し慎重に見たほうがよさそうだ、という示唆を含む実測です。llms.txt導入の効果を語る記事は多いなか、取得ログという一次データで検証した点に価値があります。

デスクトップAIはまだ「補助金漬け」──AIの請求書を支えているのは投資家

Hacker Newsに、AI運用（ops）をめぐる個人の意見記事が投稿されました。OpenAI・Anthropic・xAIなどの大手ラボはデスクトップAIやコンピュータ利用（computer-use）アプリを開発していますが、このセグメントをまだ「成長投資」として扱い、トークンを実際のコストに対して大幅に補助して顧客を獲得している──そう指摘します。

現在の世界のAIの請求額の大部分は投資家が支払っており、全体として「借金で動いている」状態だといいます。コーディングに重いモデルを使うのは正当化できても、運用の単純な作業に使うのは経済的に正当化できない。GLMやKimiのようなオープンソースモデルを米国の大手推論プロバイダーで利用すれば、日常業務で十分機能し、設定次第では5〜7倍安い場合があると述べています。

さらに筆者は、BYOK（自分のAPIキー持ち込み）型のソフトウェアラッパーは、自前のラボを持たない限りマージンを追いかける果てのない競争になると指摘します。その代表格だったCursorはラボによる買収に至りましたが、買収側のxAIにとってはデータと流通経路を手に入れた妙手だったと評価しています。

筆者の予想は「AIの請求書はいずれ投資家からユーザー（主にB2B）へ移る」というものです。エンタープライズグレードの連携を持ちながらオープンソースやセルフホストのモデルを選べるアプリが必要になるが、独自モデルを持つ大手ラボはトークンのマージンを失うため同意しにくい──という分析です。個人の意見記事ではあるものの、AIコストの「誰が払っているか」を考える視点として読む価値がありそうです。

以上、9月5日のAIニュースまとめでした。課金の仕組みを理解して道具を使う視点、実測に基づく検証の蓄積、そしてコスト構造への疑い──「AIを安く・正しく使う」テーマの記事が目立つ一日でした。