8月17日のAIニュースまとめ。週末はローカルLLM界隈の実測レポートが目立った。llama.cppのROCm大型更新から、Qwen 3.8 27Bのコード生成力検証、欧州AI主権を担うMistralの現在地、若者のAI企業トップへの反発、robots.txtによるAIクローラ制御まで、編集部が選ぶ5本を紹介する。

llama.cppがROCm 7.14に対応 — 内蔵GPUでプロンプト処理が約1.5倍の実測

新モデルのラッシュに埋もれて注目されにくかったが、llama.cppが同梱するROCmを7.2から7.14へ引き上げた。7.14ではgfx1103、つまりRadeon 780mといったAMD内蔵GPUのサポートが追加されている。

RedditのLocalLLaMAコミュニティで、Ryzen 7 260+64GB DDR5+Radeon 780m(Ubuntu 26)という環境で実際にビルドしてベンチマークを取った報告が話題になっている。プリビルドバイナリにはgfx1103ターゲットが含まれていないため自前ビルドが必要だが、CUDAの場合と比べれば手間は小さいという。

結果を要約すると次のとおりだ。

  • Qwen 3.6 35B A3B(MoE)Q8:プロンプト処理(pp8192)はROCmが311 t/s対Vulkanの288 t/s。一方トークン生成(tg128)はVulkanが21.1 t/s対ROCmの18.4 t/sと、Vulkanが約15%速い
  • Qwen 3.8 27B(dense)Q8:プロンプト処理(pp8192)はROCmが97.5 t/s対Vulkanの66.5 t/sと約1.5倍。生成速度は2.2〜2.9 t/sでほぼ互角

投稿者の結論は「denseモデルではROCmを使う価値がある。プロンプト処理がVulkan比で+50%になる」というもの。長いコンテキストを読み込ませる場面では、この差は体感に効いてくる。

ただし注意点もある。Vulkan向けに推奨されてきたカーネルパラメータ(amdgpu.gttsizeなど)はROCmでは頻繁なクラッシュの原因になるため外す必要があり、ROCm側で推奨されるGGML_CUDA_ENABLE_UNIFIED_MEMORY=1環境変数との組み合わせには疑問が残る、と投稿者は指摘する。

ノートPCやミニPCの内蔵GPUでローカルLLMを回す層にとって、バックエンド選択は速度に直結する。ROCmの適用範囲が内蔵GPUにまで広がったことで、AMD環境の選択肢が一段増えた形だ。

Qwen 3.8 27Bは3.6からどこまで変わったか — コード比較と「人間臭い独白」

Qwen 3.8 27Bについては、量子化実験や推論速度の検証など報告が相次いでいるが、今週末は2つの新しい角度からの投稿が目立った。

1つはコード生成の比較だ。「PythonのTurtleグラフィックスで、再帰アルゴリズムを使って本物らしく見える木を描く完全に動くコードを書け」という同じプロンプトを3.6 27Bと3.8 27Bに与えたところ、「3.6と3.8の違いは巨大(difference is huge)」という結果になった、という報告。スクリーンショット付きで、旧世代との差がコードの完成度にそのまま現れたという。

もう1つは、推論中の内部独白の観察だ。投稿者はモデル評価中に、3.8 27Bの内部独白が時折「自分に対して苛立ちを見せる」「自分を愚かと呼ぶ」「そもそも自分は何をしているのか分かっていないと疑う」など、人間臭く少し愛嬌のある展開を見せると指摘する。驚くべき発見というより、モデルを評価する過程で目についた小さな発見として共有されている。

ベンチマーク数値だけでは見えてこない、実利用での体感品質の報告が集まり始めているのは、モデルの成熟を感じさせる。ただしこれらは個人の観察報告であり、網羅的な評価ではない点には留意したい。

欧州のAI主権を担うMistral — 34歳の創業者に託された期待

視点をビジネス側に移す。ITmediaが、欧州のAI主権を担う存在としてフランスのMistralが注目を集めている現状を特集した。同社を率いる34歳の「若き天才」と呼ばれる創業者が、欧州の「救世主」になり得るのか、という問いかけが軸だ。

米中両国にAI開発で後れを取る欧州にとって、Mistralは数少ない自前の希望であり、政策面でも期待が寄せられている。ただし特集の骨子を見る限り、期待の大きさと現実の厳しさの両面を描く構成のようだ。欧州のAI政策がどこへ向かうかを見るうえで、続報を追いたいトピックだ。

若者はAI企業のCEOを「激しく」嫌う — 世論の溝が浮き彫りに

Futurismが、若い世代がAI企業のCEOたちを「信じがたいほど激しく嫌っている」とする調査結果を報じ、Hacker Newsで40ポイントの注目を集めた。

直近にはAnthropicのDario Amodei CEOが、AIへの世間の反発を「本質的に信頼の危機」と論じ、実際の成果で信頼を勝ち取るしかないという趣旨の発言をしていた。若い世代の反発がこれほど強いという調査結果は、その発言の背景にある溝の深さを裏付ける形だ。AI企業にとって、採用でも製品普及でも、若い世代との信頼関係の構築は避けて通れない課題になりつつある。

robots.txtのContent Signals — AIクローラの用途別制御を静的サイトで実装

サイト運営者向けの実用ネタ。Qiitaで、robots.txtにContent Signalsを記述してAIクローラを用途別に制御する方法を解説した記事が公開された。著者は小学生向けニュースサイトの運営者で、自身のサイトでの実践例として紹介している。

サイトを公開すると、検索エンジンだけでなく、AIの学習や生成の入力としてコンテンツを取得するクローラが多数アクセスしてくる。どの用途を許すかをrobots.txtで宣言できるのがContent Signalsの狙いで、静的サイトでも設定可能という点が実用的だ。AIクローラとの付き合い方に悩むサイト運営者にとって、取っ掛かりになる記事だ。

まとめ

今日の5本は、ローカル推論の裾野の広がり(llama.cppのROCm対応)、OSSモデルの熟成(Qwen 3.8 27Bの実利用報告)、AIを取り巻く社会の目(Mistralへの期待と若者の反発)、そしてWebとAIの境界線(Content Signals)という流れで読める。実測データと当事者の観察に支えられた報告が増えているのは、コミュニティの健全さの表れかもしれない。