オープン重量モデルが金融文書評価でGPT・Claudeを下回る結果
ヘッジファンドのBridgewaterとThinking Machines Labが共同で、AIモデルの金融文書評価に関する報告を発表した。結論は興味深い――ファインチューニングしたオープン重量モデルが、GPTやClaudeといった最強クラスのAPIモデルをコストの数分の一で上回ったという。
なぜ大手モデルが負けたのか。理由は「正解が非公開だったこと」にある。金融分野には公開されていない正解データが多く、汎用モデルの事前学習データに含まれていない。その結果、専門的なファインチューニングを施した小型モデルが優位に立つ構造になった。
この結果は、金融に限らず専門領域ではオープン重量モデル+独自データの戦略が有力であることを示唆している。ただし、評価が特定のデータセットに基づくものであり、汎用性をどう評価するかは今後の課題とみられる。
AIデータセンターの水使用量、実際は報告を大きく上回る
Wall Street Journalの調査で、AIデータセンターの実際の水使用量が主要テック企業の報告を大きく上回っていることが分かった。AI推論・学習に伴う冷却水消費は、企業が公表する数値より相当に多いと指摘されている。
水使用量の正確な把握は、地域の水資源計画に直結する問題だ。特に乾燥地域にデータセンターを集中させる企業にとって、水資源の枯渇はビジネスリスクになりつつある。報告の透明性向上が求められる局面といえる。
GLM5.2を5枚のRTX Pro 6000で――ローカルLLaMAの「高額な旅」
RedditのLocalLLaMAコミュニティで、ユーザーがGLM5.2を5枚のRTX Pro 6000と1枚のRTX 5090で動かすビルドの全容を報告した。
当初は5090の2枚構成から始めたが、PCIe帯域の確保やVRAM不足から次々とGPUを追加。最終的にThreadripper Pro 9975WX+WRX90マザーボードにPro 6000を5枚搭載する構成に行き着いた。
結果としては「98〜99%の満足度」に達した一方、「10年以上回さないと元は取れない」「絶対に真似しないでほしい」と自嘲。GPUの熱問題や電源の追加など、ローカル推論の「ガチ勢」ならではの苦労が綴られている。
同じくLocalLLaMAでは、DeepSeek V4 ProをRTX PRO 6000 Max-QとEpyc 9374F環境で動かすユーザーが、llama.cppの独自最適化ブランチでプロンプト処理192 tokens/s、生成11.7 tokens/sを記録したと報告。794GBのGGUFを扱う大型ビルドの最新ベンチマーク結果として注目に値する。
Surface Evolver Bench――物理シミュレーションでLLMを測る新しいベンチマーク
Redditで「Surface Evolver Bench」というユニークなLLMベンチマークが発表された。1992年リリースの液体表面モデリングツール「Surface Evolver」用のデータファイルをLLMに書かせるというもので、自然なエージェントループ(ドキュメント参照→実装→実行→デバッグ)を評価できる設計になっている。
結果はGPT5.5が総合トップ、オープンモデルではGLM5.2が最高成績。物理シミュレーションという専門領域で、コーディング能力と反復改善能力の両方が問われる意義深いベンチマークと言える。