GoogleがAndroid StudioのGemma 4実行にllama.cpp──31Bモデルが128kコンテキスト・34GB VRAMで動く

RedditのLocalLLaMAコミュニティで、Googleの統合開発環境「Android Studio」に組み込まれたネイティブのGemma 4機能が、オープンソースの推論エンジンllama.cppで動作していることが話題になっている。投稿者によれば、最大級の31Bモデルは最大128kトークンのコンテキスト長に対応し、フルロード時のVRAM使用量は34GB。マルチGPU構成にも対応しているという。

仕組みの詳細は現時点で公開されていないが、投稿者はVulkanバックエンドと、量子化対応学習（QAT）版のGemma 4を組み合わせているのではないかと推測している。一方で、コンテキスト長を変更するオプションや、プロンプト処理・トークン生成の速度（PP/TG）を表示する機能は見当たらないとも指摘する。

ローカルLLM界の定番であるllama.cppを、Googleが開発者向け製品のAI機能の基盤として採用している点が注目される。大手のプロダクトへの組み込み事例が増えることはllama.cppの成熟度を示すと同時に、今後の開発リソースの流れにも影響しそうだ。

プロンプトキャッシュでLLM推論コストを36%削減──実運用での削減事例が公開

Neraが「プロンプトキャッシュによるLLM推論コスト36%削減」と題する記事を公開した。プロンプトキャッシュは、システムプロンプトや会話履歴など繰り返し現れる入力部分をプロバイダ側にキャッシュし、2回目以降の入力コストを大きく割り引く仕組みだ。記事では実際のワークロードで36%のコスト削減を達成した経緯が紹介されている。

エージェント型AIの普及でシステムプロンプトは長大化する一方であり、キャッシュのヒット率はそのまま利用コストに直結する。モデルの選定と並んで、AIアプリケーションの費用対効果を左右する実務的な最適化ポイントになりつつある。

AIエージェントのコンテキストを狙う「権限昇格」攻撃──arXivに新しい研究

arXivに「What's in Your Agent's Context? Context Privilege Escalation Attacks Against AI」（あなたのエージェントのコンテキストには何が？──AIに対するコンテキスト権限昇格攻撃）と題する論文が投稿された。

エージェント型AIは、ユーザーの指示、ツールの実行結果、外部から取り込んだ文書など、信頼レベルの異なる情報を単一のコンテキスト内で処理する。論文の題が示すように、この構造の隙間を突き、本来は低い権限しか持たない情報源から、エージェントの持つ高い権限を悪用させようとする「コンテキスト権限昇格」のリスクを論じているとみられる。詳細は論文本文で確認したいが、ツール操作の権限を持つエージェントが一般化するいま、プロンプトインジェクションの次の論点になり得るテーマだ。

シドニー大学で数千人の職員がストライキ──争点はAIと雇用の安心

オーストラリア・シドニー大学の職員数千人が9月2日、AIの導入と雇用の安心をめぐってストライキに突入したとGuardianが報じた。「We have had enough（もう十分だ）」という声とともに職場を離れ、AIの進展が自分たちの雇用に何をもたらすのか、明確な答えを求める動きという。

大学は教育・研究の現場として生成AIの活用を急ピッチで進める一方で、雇用条件への不安がくすぶっていたとみられる。AI導入の社会的コストが労使対立という形で顕在化した事例であり、日本の職場でも同じ構図が起きうる先行事例として注視したい。

GoProが約2.85億ドルで買収へ──AIと防衛向け光学に事業ピボット

アクションカメラの代名詞だったGoProが約2億8,500万ドルで買収される見通しとなり、事業の軸足をAIと防衛向け光学技術に移すとFstoppersが報じた。

コンシューマー向けアクションカメラ市場の縮小が続く中で、蓄積してきた小型機器の光学・映像処理技術を防衛・AI分野へ転用する再編とみられる。かつての人気ブランドがAI時代の需要に合わせて舵を切る動きは、ハードウェア企業の生存戦略の一例として興味深い。

AIが描いたアルファ・ケンタウリへの恒星間航行──MIT Technology Review

MIT Technology Reviewは9月1日、AIが恒星アルファ・ケンタウリへの恒星間航行を計画したと伝えた。詳細は元記事で確認してほしいが、宇宙機の航路設計という高度な最適化問題にAIを適用した事例として、生成AIの応用範囲の広さをうかがわせる話題だ。

まとめ

今日はGoogleによるllama.cpp採用というローカルLLM関係の注目ニュースに、プロンプトキャッシュという実務的なコスト最適化、エージェントのコンテキストを狙う新種のセキュリティ研究、AIと雇用をめぐる大学の大規模ストライキ、GoProの事業再編と、技術・実務・社会の三面が揃った一日だった。モデル側の進化と同じ速度で、コスト・セキュリティ・雇用という「AIをとりまく条件」の議論も進んでいる。