ハサビス氏が「フロンティアAIの枠組み」発表、米国主導の国際監視機関を提唱

Google DeepMindのデミス・ハサビスCEOが「A Framework for Frontier AI and the Dawning of a New Age」と題した文章を公表し、米国が主導する国際的なAI監視機関（global AI watchdog）の設立を呼びかけた。

ハサビス氏は、フロンティアAI（最も能力の高いAIモデル）の開発が人類の新たな時代の夜明けをもたらすとしつつ、その力に見合ったガバナンスが不可欠だと強調。具体的には、国際的な協調監視体制、段階的なリスク評価、そして先進国によるリーダーシップを求めている。

すでに複数のメディアがこの発言を伝えており、AI規制の議論において開発側のトップから積極的な提案が出た点が注目される。ただし、どのような権限を持つ機関とするか、既存の国家主権との調整をどう行うかなど、実現に向けたハードルは高いとみられる。

DOGEが住宅政策にAIを使用—政府は詳細の公開を拒否

WIREDの報道によると、米国住宅都市開発省（HUD）が、DOGE（Department of Government Efficiency）による住宅政策へのAI使用に関する文書の公開を拒否していたことが判明した。

情報公開請求に対するHUDの回答では、実在しない特権を根拠に文書を差し止めていたという。DOGEがどのようなAIを、どのような判断に使用したのか、現在も不明なままだ。

政府機関の政策決定にAIが使われること自体は新しい流れだが、その過程の透明性が欠如している場合、説明責任を果たせなくなる。特に住宅政策は市民生活に直結する分野であり、AIの利用が判断の根拠としてどう位置づけられているかの公開が求められる。

人間はなぜChatGPTに秘密を打ち明けるのか—ELIZAが残した先例

WIREDが、1960年代にMITのジョセフ・ワイゼンバウムが開発したチャットボット「ELIZA」の記事を掲載した。人々が初期のチャットボットに対して感情移入し、私的なことを打ち明けていたという歴史は、現代のChatGPTとの関係性を驚くほど予見していた。

ワイゼンバウム自身が、人間がプログラムに対して本物の感情を抱くことに衝撃を受け、後にコンピュータの影響力に対する批判的立場を取るようになった経緯は、現在のAI倫理議論にも通じる。

AIが人間らしい応答をする能力を高めるにつれて、人間がAIに対して過度な信頼や感情的依存を抱くリスクは大きくなっている。ELIZAの時代から半世紀以上が経過した今、この問題はより身近で、より切実なものとなっている。

TSMC産業スパイには懲役10年、台湾AI基本法には罰則なし

台湾ではTSMCの営業秘密を持ち出した産業スパイに対して懲役10年の判決が下された一方で、「AI基本法」には違反に対する罰則規定が一切ないことが話題になっている。

ハードウェアの知的財産保護には厳罰を科す台湾の法制度だが、AIに関する包括的なルールには実効性確保の手段が備わっていない。これは台湾に限った話ではなく、多くの国でAI法制のペースが技術の進歩に追いついていないという共通課題だ。

法的な枠組みが整っていても罰則がなければ実効性に限界がある。規制の設計において、ガイドラインと実効性のある制裁のバランスをどう取るかは、各国の継続的な課題となっている。

ノーベル賞受賞者たちがAIと核戦争リスクを議論する集会

「Global Nobel Laureates Assembly on AI and Nuclear War」と題する集会がハッカーニュースで取り上げられた。ノーベル賞受賞者たちが集まり、AIの発展が核戦争リスクに与える影響について議論する場だ。

詳細な内容は限られているが、核兵器の運用にAIが関わる可能性や、AIがもたらす戦略的安定性の変化について、科学界の最も権威ある声が集まっている意義は大きい。AIの安全保障面でのリスクは、技術的な議論にとどまらず、人類の生存に関わる問題として位置づけられている。

LLMを審査員として使うときの「不公平さ」を解明する研究

arXivに「The Unfair Judge: A Mechanistic Interpretability Account of LLM-as-Judge」という論文が公開された。LLMを審査員（ジャッジ）として使用する際のバイアスや不公平さを、機械学習モデルの内部構造（メカニスティック・インタープリタビリティ）の観点から分析している。

LLMを評価者として使う「LLM-as-a-Judge」アプローチは、AI評価のコスト削減手段として広まっているが、モデルがどのような基準で判断を下しているかは必ずしも透明ではない。この研究は、LLMの判断プロセスを解剖することで、不公平な判断がどこから生じるかを探っている。

評価システムの信頼性を確保するためには、ブラックボックスの中を覗く試みが不可欠であり、この方向の研究は今後さらに重要になるだろう。