OpenAIが初のカスタムチップ「Jalapeño」を発表 — Broadcomと共同開発

OpenAIは6月24日、Broadcomと共同開発したLLM推論専用チップ「Jalapeño」を発表した。同社初の自社製シリコンであり、大規模言語モデルの推論処理に特化して設計されている。

Jalapeñoは、OpenAIの推論システムが求める独自のニーズに合わせて最適化されており、パフォーマンス、電力効率、スケーラビリティの向上を目指す。The Decoderの報道によると、2026年後半までに本格運用を開始する計画という。

これはGoogle(TPU)やAmazon(Trainium)などに続く、ハイパースケーラーの自社チップ化トレンドの延長線上にある動きだ。OpenAIがこれまでNVIDIA製GPUに強く依存してきたことを考えると、推論コストの削減と供給の多様化という観点で重要な一歩と言える。

「Tokenpocalypse」 — AI支出に苦しむ企業が増加

404mediaが「Tokenpocalypse(トークンの終末)」と呼ぶ現象が広がっている。企業がAIサービスへの支出を削減しようと急ぎ始めたのだ。

InformationWeekも同様の動向を報じており、CIO(最高情報責任者)たちがAIプロジェクトの「出口戦略」を練り始めているという。具体的には、ROI(投資対効果)が見えないAIプロジェクトの中止や、トークン使用量の最適化が進んでいる。

これは一時的なブームの終焉というよりも、AI導入が「実験フェーズ」から「収益性のフェーズ」へ移行する過渡期の現象と捉えるべきだろう。初期の熱狂的に投資された予算が、現実的なコスト管理の対象になりつつある。

スイス連邦最高裁判所が検閲回避モデル「Heretic」の導入を評価

興味深い動きがスイスから報じられた。スイス連邦最高裁判所が、検閲回避(abliterated)モデルである「Heretic」の導入を検討しているという。

RedditのLocalLLaMAコミュニティで共有された情報によると、裁判所側は商用LLMの「過度な拒否反応」に悩まされていた。正当な業務上の質問に対しても、AIモデルが不適切なコンテンツとして拒否する問題が頻発していたという。

政府機関が、検閲を解除したオープンソースモデルを自らの業務に使おうとしているのは象徴的な出来事だ。AIモデルの安全性と実用性のバランスが、現場レベルで議論され始めている証左と言える。

ローカルLLM最適化: GLM5.2を2.5 tok/sから50+ tok/sに20倍高速化

LocalLLaMAコミュニティで、GLM5.2モデルを約20倍高速化した事例が報告された。

開発者はGH200システム(Hopper H100 96GB×2基搭載)で、モデルハックと最適化を組み合わせることで、初期の約2.5 tok/sという速度を50 tok/s以上に引き上げた。具体的な手法として、推論エンジンのチューニング、メモリ割り当ての最適化、カーネルレベルの調整を行ったという。

同じハードウェアでもソフトウェアの最適化次第で劇的に性能が変わることを示す好例だ。ローカルLLMの実用性を示す重要なベンチマークと言える。

AIが人間の想像を超える無線チップを設計

IEEE Spectrumが報じたところによると、AIが人間の設計者が思い付かないような無線チップの設計を生み出しているという。

従来の無線周波数(RF)チップ設計は人間のエンジニアが経験と直感に基づいて行ってきたが、AIは人間には解釈困難な構造を生成し、それが実際に優れた性能を示すという。これはAIの応用範囲がソフトウェア領域から物理的なハードウェア設計へと拡大していることを示している。

まとめ

今日のニュースから浮かび上がるのは、AI産業が「ハードウェアの自前化」と「コストの現実化」という二つの流れに同時に直面している状況だ。OpenAIのチップ自社化は長期的なインフラ投資の象徴であり、Tokenpocalypseは短期的な収益圧力の現れである。この二つのベクトルがどのように平衡点を見つけるのかが、今後数四半期の注目ポイントになりそうだ。