富士通がLLMのGPU効率を最大475倍にする新アーキテクチャ「PHOTON」を開発

富士通は6月24日、大規模言語モデル(LLM)を少ないGPUで効率的に動かす新アーキテクチャ「PHOTON」を開発したと発表した。GPUあたりの処理性能(スループット)が、現在主流のTransformerアーキテクチャと比較して最大475倍に達するとされる。

PHOTONの最大の特徴は、GPUの計算リソースをより有効活用する設計にあり、LLMの運用に必要なGPU数を大幅に削減できるという。富士通によれば、これによりコスト削減と環境負荷の低減が同時に期待できるとしている。

LLMの推論コストは業界全体の課題であり、アーキテクチャレベルでの効率化は、クラウド事業者からエッジデバイスまで広範な影響を持つ可能性がある。475倍という数値は理論上の最大値であり、実環境での効果は今後の検証を待つ必要があるが、アーキテクチャ革新によるアプローチは注目に値する。

Mistral AIが高精度OCRモデル「OCR 4」をリリース

Mistral AIは、PDF、Wordファイル、PowerPointプレゼンテーションなどからテキストを抽出する新しいOCRモデル「OCR 4」をリリースした。同社によれば、ブラインドテストの72%のケースで競合モデルを上回る精度を達成したという。

文書のデジタル化は企業のAI導入における最初のステップとなるケースが多く、OCR精度の向上は後続のRAG(検索拡張生成)や文書分析の品質に直結する。Mistralはテキストモデルで実績を積んできたが、OCR領域への本格参入は、ドキュメント処理の競争における新たな選択肢を提供することになりそうだ。

言語モデルは「同じ議論」をしてしまう――Pangram CEOがAI検出の新手法を提唱

AI生成テキストの検出企業PangramのCEO Max Spero氏は、言語モデルがテキスト検出において「論理の偏り」で自らを露呈していると指摘した。

同氏の説明によれば、言語モデルに同じトピックで100個の議論を書かせると、それらが驚くほど似た論点に集中する。一方、人間の推論はより多様でばらつきがある。この「議論のクラスタリング」の性質を利用することで、AI生成テキストを検出できるという。

AI生成テキストの検出は、学術界やジャーナリズム、プラットフォーム運営者にとって重要な課題だ。しかし、モデルが進化すればこの偏りも縮小する可能性があり、検出手法と生成モデルのいたちごっこは続くとみられる。

「忘れる」ことでAIの言語学習が向上する可能性――MPIの研究

マックス・プランク研究所(MPI)の新しい研究によれば、AIに人間のような記憶制限(3〜7語)を与えることで、言語学習が向上する可能性が示唆された。

人間のワーキングメモリは限られているが、その「忘れやすさ」がかえって効率的な言語習得を可能にしているという仮説だ。AIモデルは膨大なコンテキストを保持できるが、すべてを記憶することが必ずしも最適な学習につながらないという。

この研究は、人間の認知メカニズムからAI設計のヒントを得る「認知インスパイアードAI」の方向性を示すものとして興味深い。ただし、実用的な大規模モデルへの応用にはさらなる検証が必要とされる。

llama.cppがIBM音声モデルとVulkan改善をサポート

ローカルLLM実行の代表的なエンジンであるllama.cppに複数のアップデートが加えられた。主な変更点は以下の通り。

  • IBM granite-speech-4.1-2b-plusのサポート(PR #24818)
  • LiquidAI LFM2.5-ColBERT-350M / Embedding-350Mのサポート(PR #24913)
  • Vulkanバックエンドの大幅改善:CONV_3Dサポート、softmax前のバイアス適用によるオーバーフロー防止など

Vulkan関連の改善は、AMD GPUやモバイルGPUでの推論パフォーマンス向上につながる可能性がある。また、音声モデルのサポートにより、llama.cppがテキストだけでなくマルチモーダル領域にも対応範囲を広げていることがわかる。

GMOインターネットグループが四足歩行警備ロボットを陸自駐屯地で検証

GMOインターネットグループ4社は、国産ロボット開発の未来ロボットと協力し、四足歩行型の警備用ロボットを開発。陸上自衛隊の駐屯地での導入検証を開始すると発表した。

同ロボットは24時間警備体制の実現を目指し、警備の省人化を図るもの。四足歩行型は不整地や階段などでの移動に優れており、固定式カメラではカバー困難なエリアの巡回に適しているとされる。

防衛・安保分野におけるロボットAIの実用化は各国で進んでおり、日本でも国産技術による取り組みが本格化していることがうかがえる。