11月2日夕方のAIニュースまとめ。今日は資金とチップをめぐる話が目立った。OpenIは中東で契約を重ね、Amazonは自社チップをクラウドの外へ売ろうとしている。その一方で、有名投資家からは「そろそろ慎重に」という声も出てきた。開発者向けのニュースも充実している。

OpenAIのAltman、UAEでエネルギー・投資契約を締結

Bloombergの報道によると、OpenAIのSam AltmanCEOはアブダビを訪れ、皇太子のシェイフ・ハリド・ビン・ムハンマド・アール・ナヒヤーンと会談した。OpenAIはUAEのエネルギー企業、投資会社、政府機関に自社技術を展開する複数の契約を結んでおり、同国の国家系投資家からの数十億ドル規模の資金調達を模索する中で、関係を一段と深める形だという。

AI開発にはデータセンターのための電力と、それを支える巨額の資金が不可欠。米国発のAI大手が、その両方を中東から直接調達しようとする構図が明確になってきている。会談の詳細や契約の規模については、現時点では公式発表を待ちたい。

Amazon、自社AIチップ「Trainium」をAWS外で販売へ

Amazonが、独自開発のAIチップ「Trainium」をAWSの外で販売し始める計画だと報じられ、Hacker Newsで話題になった。現時点では報道ベースで、販売形態・時期・価格などの詳細は不明。

もし実現すれば、NVIDIA頼みのAI半導体市場に、クラウド事業者がチップメーカーとして乗り込むことになる。推論コストの高騰に悩む企業にとっては選択肢が増える意味があり、注目される動きだ。

OaktreeのHoward Marks「AIのつまずきが万能感を破った。懐疑は健全」

投資会社Oaktree Capitalの共同創業者で、市場周期の分析で知られるHoward MarksがBloomberg TVのインタビューに応じ、AI関連の市場でのつまずきが、このセクターを取り巻く「無敵感のバブル」をある程度破裂させたと語った。昨年「バブルウォッチ」を表明していたMarksは、「少し考え、少し懐疑的になろうと言う人が増えた。それは非常に健全なことだ」と述べている。

AI関連株の調整が続くなかで、著名投資家が警戒感を「健全」と評価したのは示唆的だ。熱狂の一巡後の市場がどう落ち着くか、しばらく注視したい。

JetBrains「Mellum2.1」にMTPヘッド版──検証付きでデコード1.4〜1.8倍速

JetBrainsのコード特化モデル「Mellum2.1-12B-A2.5B-Thinking」に、Multi-token Prediction(MTP)ヘッドを搭載した版が公開され、ローカルLLMコミュニティで話題になっている。

MTPヘッドは、モデル本体と一緒に訓練された追加のTransformerブロック1つで、いまサンプルしたトークンの「次の次」を予測する。推論エンジンはこの予測を投機的デコードのドラフトとして使い、本体が毎トークン検証するため、出力は変わらずにデコードが1.4〜1.8倍速くなる。ドラフトの採用率は約90%という。ヘッドはmodel-mtp.safetensorsに格納され、vLLM 0.33以降では--speculative-configで、transformers 5.20以降ではフラグ指定で有効化できる。

モデル本体は既存のMellum2.1 Thinkingと同一で、ローカルでコード補完を回している人には試す価値がありそうだ。

Rocky Linuxの生みの親が、AIで11日間で作った「Linuxではない」カーネルを公開

Rocky Linuxの開発者Gregory Kurtzer氏が、AIを使って11日間で構築した新しいカーネル「ginux」をGitHubに公開した。「Not Linux(Linuxではない)」をうたうユニークな位置づけで、Hacker Newsで注目を集めている。AIによるコード生成が実用的な規模のシステムソフトウェア開発にどこまで届くかを示す実験としても興味深い。設計思想や中身の詳細は、現時点ではリポジトリの公開情報を参照してほしい。

中国、初の本格AI輸出規制を告示──商務部告示第48号

先月22日に「中国が自国のトップAIモデルやチップ設計を輸出規制の対象にする動き」と報じられていた話が、正式な告示として着地した。非営利団体Cloud Security Alliance(CSA)が、中国商務部(Mofcom)の告示第48号を「中国初の最先端AI輸出規制」として解説するリサーチノートを公開した。

米国主導の輸出規制とは逆向きの、自国のAI競争力を对外流出から守る「技術保護」が目的とみられる。対象範囲や実務上の影響については、CSAの解説と今後の運用を待ちたい。

arXiv拾い読み:注意ヘッドを刈り込むと逐語記憶が抑えられる

LLMが学習データをそのまま暗記・再生してしまう問題は、プライバシーと知的財産の観点で懸念されてきた。本日arXivに公開された「Fewer Heads, Fewer Memories」は、注意ヘッドが連想記憶として機能し、記憶容量がヘッド数に比例して増えるという理論的知見に基づき、冗長な注意ヘッドを枝刈り(pruning)すると逐語記憶が抑えられることを示した研究。

モデル全体を再訓練せずに記憶の漏出リスクを減らせる可能性があり、「モデルのどこが何を覚えているか」を構造レベルで扱えることの面白さを感じさせる結果だ。