Anthropicが「AI開発の一時停止」を要請、自己改善リスクに警告

Anthropicが6月4日、WSJの報道を通じて重大な声明を発表した。同社は主要AIラボに対し、フロンティアAIの開発ペースを低下させることを検討するよう要請している。

背景にあるのは「再帰的自己改善（recursive self-improvement）」への懸念だ。AIシステムが人間の介入なしに自らを改善できるようになる段階が、予想よりも早く到来する可能性があるという。Anthropicの内部研究機関責任者Marina Favaroと政策責任者Jack Clarkが執筆したブログ投稿では、モデルの進歩が急速に加速しており、「社会構造とアライメント研究が技術の進展に追いつくための選択肢を持つことが望ましい」と主張している。

同投稿は、自己改善はまだ起きておらず不可避でもないとしつつも、「ほとんどの機関が準備しているよりも早く来る可能性がある」と警告。グローバルな合意形成と、競合他社が合意を遵守しているかを検証する仕組みの構築を提案している。

時期を同じくしてAnthropicは約1兆ドルの評価額で資金調達を完了し、上場に向けた準備を進めている。同社の年間換算売上高は今月末までに500億ドルに達する見通しという。競合するOpenAIもIPO準備中とされる。

Apple Messages for Businessに初のAIエージェント「Poke」が承認

Pokeというスタートアップが、AppleのMessages for Businessプラットフォームで初めてAIエージェントとして承認された。PokeはシンプルなテキストメッセージでAIエージェントを利用できるサービスで、これまでMessages for Businessは人間の担当者が対応することが前提だった。Appleがビジネス向けメッセージングプラットフォームにAIエージェントを公式に認めたのはこれが初めてで、今後のAIエージェントのプラットフォーム統合における重要なマイルストーンとなる。

Metaがテント型データセンター建設でコスト削減を狙う

Metaがデータセンターの建設費削減のため、テスラが導入した手法を取り入れている。テント構造の仮設データセンターだ。TechCrunchの報道によると、Metaは巨額のデータセンター費用を抑制する一つの手段として、テント型施設の建設に着手している。AIの計算需要が急増する中、従来の大型データセンターよりも短期間かつ低コストで構築できるこの手法は、インフラ投資のあり方に新たな視点を提供している。

Stanfordが28兆ピクセルのオープン画像データセット「GPIC」公開

Stanford大学の研究チームが、約28兆ピクセルの大規模画像データセット「GPIC（Giant Permissive Image Corpus）」を公開した。100Mの訓練用、200Kの検証用、1Mのテスト用画像から構成され、最先端の視覚言語モデルによるキャプション付与が行われている。

最大の特徴は、すべての画像が研究・商用利用可能な許可的ライセンスで提供されていることだ。安全性フィルタリング、重複排除済みで、Hugging Faceで一元ホストされている。画像生成モデルのベンチマークプロトコルも提供されており、大規模な視覚生成モデリングの再現可能な研究を支援することを目指す。

NvidiaがKumo AIを買収

NvidiaがKumo AIの買収を完了したとFortuneが報じた。詳細な買収額は明らかにされていないが、NvidiaはAIインフラのエコシステム拡大を狙い、次々と買収を進めている。Kumo AIはグラフニューラルネットワークを活用した予測AIに強みを持つ企業で、Nvidiaのデータセンター・エンタープライズ向けポートフォリオを補完する位置づけとみられる。

Science誌が「AI理解の窓が閉じつつある」と警告

Science誌に「A narrowing window to understand AI」と題する論説が掲載された。AIシステムが複雑化・ブラックボックス化する中、人間がAIの内部動作を理解し制御する能力との間に開いている「窓」が徐々に閉じつつあるという指摘だ。研究者コミュニティでは、モデルの解釈可能性研究への投資を加速すべきだという声が強まっている。

Anthropicがオープンソースの脆弱性発見フレームワークを公開

AnthropicはAIを活用した脆弱性発見のためのオープンソースフレームワーク「defending-code-reference-harness」をGitHubで公開した。Hacker Newsで50ポイントを獲得し、セキュリティコミュニティから注目を集めている。AI駆動のセキュリティテストツールが増加する中、大手AI企業が自らセキュリティ研究のインフラを提供する動きは注目に値する。