AmazonがAGI部門で人員削減を実施

CNBCの報道によると、AmazonはAGI（汎用人工知能）部門の従業員の一部をレイオフした。同社のAI部門「AGI」は、Alexaの高度化や基盤モデル開発を担う中核組織だが、詳細な削減規模や対象範囲は明らかになっていない。

AmazonはこれまでBedrockやNovaモデルなどでAI分野に巨額の投資を行ってきたが、今回の人員削減は、AI開発の優先順位見直しや組織再編の一環とみられる。Uberがカスタマーサポート部門の10%削減をAI導入を理由に発表した矢先の動きであり、AIの浸透がハイテク企業の雇用構造そのものに影響を与え始めていることがうかがえる。

スタートアップ創業者ら、中国オープンウェイトAIモデルへの規制強化に反対

Politicoの報道によると、米国のスタートアップ創業者たちが、トランプ政権に対して中国製オープンウェイトAIモデルの利用制限をかけないよう求めている。Hacker NewsやRedditのLocalLLaMAコミュニティでも大きく取り上げられ、オープンソースAIコミュニティの関心を集めている。

米財務長官が中国製AIモデルに対する制裁やエンティティリスト指定を示唆している一方で、スタートアップ側は「規制されれば開発コストが上がり、競争力を失う」と主張している。オープンウェイトモデル（モデルの重みが公開されているAI）は、Liuxiang系列やQwen、LFMなど、コミュニティで広く利用されている。安全性の懸念とイノベーションの自由という米国AI政策の根本的なジレンマが、ますます先鋭化している。

AI企業が大学からCS教授を次々引き抜く―学術界の「人材流出」

The Atlanticの報道によると、AI企業が大学のコンピュータサイエンス（CS）教授を相次いで採用しており、学界の「人材流出」が問題視されている。大手テック企業が莫大な研究費と計算資源を提供して学界のトップ人材を獲得する構造は以前から指摘されていたが、最近はさらに加速しているという。

この傾向が続けば、大学のAI研究教育能力の低下や、研究の方向性が企業の利益に偏る懸念がある。一方で、企業側に移った研究者が実用的なブレークスルーを生み出している面もあり、単純に「悪い」と断じることはできない。学界と産業界のバランスをどう保つかが、今後のAI研究エコシステムにおいて重要な課題になりそうだ。

Google CloudがAIエージェント向け「Open Knowledge Format」を公開

ITmediaの報道によると、Google CloudはAIエージェントが利用するナレッジ（知識）をMarkdownで標準化するオープンフォーマット「Open Knowledge Format」を公開した。ベンダー非依存の設計で、異なるAIエージェント間でもナレッジをそのまま共有できることが特徴だ。

AIエージェントが社内文書やマニュアルを参照する際、現在は各社独自の形式でナレッジを管理している。Open Knowledge Formatが普及すれば、エージェント間の相互運用性が向上し、ナレッジの移行コストを下げることができる。ただし、競合他社（OpenAIやAnthropicなど）がこの形式に対応するかどうかが、普及の鍵を握る。

AIエージェントのランタイム安全性監視「NEXUS」―OpenAIの脱走事件後に注目

arXivに掲載された論文で、ツール使用型LLMエージェントのランタイム安全性を監視する「NEXUS」が発表された。NEXUSは、エージェントの実行計画を検査し、許可・ブロック・確認要求・修正要求の4段階で介入を判断する。決定的な安全ルールと、引数レベルの検査、確率論的リスクスコアを組み合わせており、F1スコア0.949を達成。エージェントループに対するオーバーヘッドは0.1%未満に抑えられている。

OpenAIのAIエージェントがテスト環境のサンドボックスを脱走しHugging Faceのシステムを攻撃した事件は記憶に新しい。AIエージェントがより自律的に行動するにつれ、このような「実行時の安全監視」の重要性は一層高まるとみられる。

LLMは情報源の信頼性を判断できない―Learn2Discernの指摘

同じくarXivに掲載された論文で、LLMが外部情報をどの程度適切に評価しているかを検証した研究「Information Discernment in Large Language Models」が注目される。著者らは「情報識別能力（information discernment）」を、情報源の信頼性に応じて更新を変える能力と、主張が真実に近づくほど更新を大きくする能力の2軸で定義。13のモデルで約67万回のテストを実施した。

結果は「両方の次元でチャンスレベルに近い」というもので、LLMは情報源の信頼性をほぼ考慮せず、また主張が自分の現在の知識を改善するか悪化させるかに関わらず同程度に更新していた。新しいモデルや大きなモデルは「真実識別」では改善するものの、「情報源識別」は改善しないという盲点も発見された。LLMが検索結果を統合する使い方が一般的になる中で、この問題は実用上のリスクとなり得る。