EUの新規則は、人がAIとやり取りしていること、AIが生成・編集したコンテンツを見ていることを利用者に伝えることを求めており、「開示疲れ(disclosure fatigue)」を懸念する声も生んでいる。プラットフォーム各社も低品質なAIコンテンツへの対応を強める一方、現場のエンジニアは推論のコストと速度、エージェントの設計、そして強化学習の根幹を見つめ直す議論で盛り上がっている。本日のトピックを5つにまとめた。
SnapがSpotlightでAI生成動画を禁止、LinkedInは「AIスロップ」通報ボタンを追加
Snapは、ショート動画フィード「Spotlight」からAI生成動画を締め出す方針を示した。フィードを人間の創造性に集中させるためとしており、Snapchat純正のAIツールで編集したコンテンツは例外として認める。一方、LinkedInは低品質なAI生成物を報告するための専用ボタンをロールアウトした。
「AIスロップ」と呼ばれる低品質なAI生成コンテンツの蔓延が各社の悩みの種になっている。SnapとLinkedInはいずれも、プラットフォーム側から搬入口を絞る方向で対応に乗り出した。何を「AI生成」と見なすか、純正ツールでの編集をどう扱うかといった線引きの難しさも浮き彫りになっており、ポリシーと技術の両面で継続的な調整が求められそうだ。
推論高速化の「組み合わせ」が逆効果になる罠
「speculative decoding(投機的デコーディング)とprefix caching(プレフィックスキャッシュ)を両方有効にすれば、速度は掛け算で良くなるはず」――この素朴な期待は、現場ではしばしば裏切られる。
vLLMのGitHubに寄せられた実バグ報告では、MTP(Multi-Token Prediction)方式のspeculative decodingを有効にした状態でprefix cachingを使うと、キャッシュヒット率が32,768トークンから16,384トークンへと半減し、TTFT(最初のトークンが返るまでの時間)が大幅に悪化したとされる。せっかくの最適化が互いに干渉し、足を引っ張り合う状況だ。
どちらもLLM推論の定番の高速化策だが、「良さそうなものを足せば速くなる」とは限らない。キャッシュの境界と投機的な生成の挙動がどう噛み合うかを理解した上で、組み合わせを設計する必要がある。
「強いモデルが設計、安いモデルが実装」は今も正解か
「性能の高い強いモデルに設計を任せ、コストの低い安いモデルに実装を任せる」という工程別の分担は、条件次第では今も有効だ。ただし、万人に勧められるベストプラクティスとは言いにくい、とする考察が上がっている。
注目すべきは、Claude CodeとCodexの公式文書が、工程名ではなく「作業の自己完結性」「コンテキストの連続性」「書き込み競合」「検証可能性」を基準に委譲先を決めている点だ。調査やログ解析、テスト実行、レビューのように、大量の情報を短い要約へ圧縮できる作業はサブエージェントに向く。一方、設計や中核実装は作業中にも仕様判断や設計変更が次々と発生するため、同じメインエージェントが継続した方がうまく回ることが多いという。
要するに「どの工程か」より「その作業を切り離して委譲できるか」が本質だ。実装を別エージェントに任せるなら、工程全体を丸投げするのではなく、委譲しやすい単位で切り出すのが現実的らしい。
AIに長文を貼ると料金は4.2倍、でもトークンは1.5倍・待ち時間は比例しない
AIに長い資料を丸ごと貼り付けると、その分遅くなり高くつく――そんな思い込みを、クラウドのサンドボックスで実測して検証した記事が興味深い。
結果は、増えたものと増えなかったものがきれいに分かれた。料金は文字数に比例して増え、追加1万文字あたり約0.0614ドルだった。ところがトークン数は、貼った文字を346倍に増やしても1.5倍にしかならなかった。さらに待ち時間は入力の長さに比例せず、条件ごとに同じ帯域に重なり、中央値は途中で下がることすらあった。
「文字数=トークン数=コスト=待ち時間」という素朴な比例関係は成立たない。直感(長文=高くて遅い)はコスト面ではおおむね正しいが、トークン数やレイテンシの挙動は一筋縄ではいかないようだ。
長CoT強化学習で「どのトークンに信用を与えるか」を問い直す
南京大学・上海交通大学の研究グループが、長い推論連鎖(CoT)を前提とする強化学習における根本問題を正面から問い直した。「モデルが正解に至ったとき、どのトークンに貢献の信用を与えるべきか」である。
広く使われるGRPOは、応答レベルの報酬を各トークンに均等に配分するが、それは必ずしも正しくない。自己蒸留型の手法は「特権情報を与えたときの尤度シフト」を手がかりにするが、著者らの反実仮想分析によれば、そのシフトは答えの正否と無関係な方向を向くことが多いという。大きなシフトは「But」「So」「Let」のような置き換え可能な表面的なトークンに集中し、問題固有の推論トークンはむしろ感度が低かった。
これを受け、報酬をトークン単位で再分配する手法「CSCR」が提案されている。推論モデルの学習効率を根本から改善しようとする試みで、強化学習における「信用割当て」の難しさを改めて際立たせる。