職場でのAIをめぐる空気が静かに変わっている──そんなデータが発表された。一方で技術側は、ローカル/オンプレ推論の実測報告が今週も着々と積み上がっている。本日はその両端を取り上げる。

職場のAIへの好感度は81%から43%へ──Glassdoorレビュー分析

The Decoderが伝えたGlassdoorレビューの分析によると、従業員レビューにおけるAIへの肯定的な言及は、2019年の81%から43%へとほぼ半減したという。

注目すべきは職種による格差だ。経営層のレビューではAIへの評価がおおむね肯定的にとどまる一方、保険請求処理などの現場作業にあたる人々のレビューでは、ほぼ全面的に否定的な結果が出ている。

もうひとつ特徴的なのは、不満の内訳だ。「職を失うのではないかという恐怖」は苦情のひとつにすぎず、強制導入、監視、非現実的な生産性期待が同じほどの重みで挙がっているという。AI導入を進める側と実際に使う側の温度差が、口コミデータとして可視化された形といえる。導入を進める企業にとっては、ツールの選定以前に現場の受容をどう設計するかが問われる結果になりそうだ。

AIインフラを狙う攻撃を90日間観察──Wizのハニーポットレポート

セキュリティ企業のWizが、AIインフラを装ったハニーポットで90日間にわたる攻撃を観察した結果をブログで公開した。

収集データには概要のみが含まれるため詳細は元記事に譲るが、LLMやエージェントの運用が広がるいま、AI特有の攻撃面に実際にどのようなアクセスが来ているのかを継続的に観察した記録は数少ない。AI関連ワークロードを公開する際の脅威モデルを更新する材料になりそうだ。

DGX Spark 2台でQwen3.8-Flash-Next NVFP4──50トークン/秒の実測と「罠」の記録

LocalLLaMAに投稿された構成メモが実に濃い。NVIDIA DGX Spark（GB10）2台を使い、Qwen3.8-Flash-NextのNVFP4量子化モデルをTP2（テンソル並列2）で動かして、decode約50トークン/秒、prefill約2,900トークン/秒（11kトークン投入時）という実測値を報告している。

構成の要点はこうだ。vLLMはQwen3.8-Next対応のPR #53896ブランチ（mainには未搭載）、GB10はアーキテクチャ12.1でNVFP4のE2M1変換にソフトウェアフォールバックが必要なため2ファイルのパッチを当てる。推論用のPLE n-gramテーブル（48GB）は内部NVMe上に置いてmmapで供給し、MADV_RANDOMの指定がハッシュ散らばりのある行参照で読み増幅約30倍の差を生むため必須──という具合に、細部まで詰めた記録になっている。

特に有用なのは「うまくいかなかったこと」のリストだ。

  • piecewise cudagraphsはMTP+TP2では約28%減速。同一構成でグラフ化の有無を比べると36対50トークン/秒。グラフ化は単一ノード・MTPなしでは9→16.5トークン/秒と有効だが、MTP側が既に起動オーバーヘッドを償却しているため、両者を組み合わせると逆効果になるという
  • Dockerのデフォルト設定ではNCCLがTCPソケットに黙ってフォールバックし、TP2のprefillがネイティブ比約40%に劣化する。IBデバイスのパススルー（または--privileged）が必要
  • RoCEのデバイス名は再起動ごとに安定せず、同一構成の2台でもrocep1s0f1とrocep1s0f0で異なる例がある。ハードコードしたNCCL_IB_HCAは片方のノードで黙って失敗するため、ibdev2netdevで列挙して動的に解決すべきとのこと
  • flashinferはGB10では0.6.18必須。0.6.17はNVFP4 MoEフォールバックカーネルをクラッシュさせる

以前このブログでも64GB MacやV100×4枚でのQwen3.8-Flash-Next運用例を紹介したが、DGX Sparkのような新しめのアーキテクチャでの実測と、失敗ルートまで含めた記録が出てきたのは貴重だ。同じ道を通る人への道標になる内容になっている。

ローカル推論エンジンに動画生成が合流──TensorSharpでMiniMax H3

ローカル推論エンジン「TensorSharp」の開発者が、MiniMax H3の動画生成を同じランタイムで動かすことに成功したと報告した。もともとGGUF/LLM向けのローカル推論エンジンとして始まったTensorSharpで、画像を文脈に与えて動きを記述するプロンプトから映像を生成するimage-to-videoのパイプラインが動くようになったという。

作者が強調するのは、UIそのものよりも方向性のほうだ。LLM、マルチモーダル、画像、そして動画の推論を、モデルファミリごとに異なるPythonスタックを分けて用意するのではなく、同じローカル推論エンジンに収束させていくことの価値。ただし動画モデルはメモリ管理やテンサーのスケジューリング、オフロードのかけ方において自己回帰LLMとは違う圧力をかけるため、最適化はこれからという段階らしい。

コミュニティはメインラインに先行──LongCat-Flash-Lite-SparseほかGGUFリリース

LocalLLaMAの常用投稿者が、複数モデルの「Uncensored Heretic」処理済みGGUFを一括リリースした。目玉はLongCat-Flash-Lite-Sparseだろう。従来のLongCat-Flash-Liteと同じ69B-A3BのMoE構成を保ちつつ、sparse attention対応と1Mトークンのコンテキスト長（従来は256k）を追加したものだ。ただしアップストリームのllama.cppにはまだ対応が入っていないため、利用には作者のフォークが必要になる。

このほかQwen3.8-27B、Qwen3.5-122B-A10B、Qwen3-Coder-Next、ビジョン対応のLaguna-S2.1などがGGUF形式で公開されている。新しいアーキテクチャへの対応が、公式のメインラインよりコミュニティ側で先に進む構図は相変わらずだ。

HBMの代替を狙う「HBF」──FlashAccel論文が示す容量の将来像

arXivに掲載されたFlashAccelの論文がLocalLLaMAで取り上げられている。High-Bandwidth Flash（HBF）と呼ばれるフラッシュ系メモリは、同じコストでHBMの8〜16倍の容量を提供し、帯域は3TB/sまで出せるという主張だ。

ローカルでもオンプレでも、推論の最大の制約は「モデルをどれだけ載せられるか」というメモリ容量にある。HBFが実際にAIアクセラレータへ採用されれば、この制約の緩和につながる可能性がある。現時点では論文上の評価であり、実用化の見通しについては今後の情報を待ちたい。

現場のセンチメントの冷え込みと、推論インフラ側の着実な前進。この二つは対照的に見えて、どちらも「AIを実際に使い込む段階」の顔をしている。導入側の摩擦を減らす工夫と、動かす側の土台を固める工夫──来週以降も両方の流れを追っていきたい。