AIが陰謀論を「説得」で論破できる理由

Wall Street Journalが報じたところによると、AIは陰謀論を信じる人々と対話し、証拠に基づく説明を繰り返すことで考えを変える効果があるという。これは単に事実を提示するだけでなく、相手の主張に耳を傾けつつ論理的に反論するという、人間のディベートの基本に近いアプローチを取っている点が興味深い。

人間のファクトチェックが陰謀論者に届かない場面でも、AIは感情的な反発を抑えつつ根拠を提示し続けることができるという利点がある。ただし、この手法がすべてのケースで有効かどうかはまだ研究段階であり、過度な期待は禁物だ。

AnthropicとOpenAIの最新モデル「Mythos」がワシントンに衝撃

Politicoの記事によると、AnthropicとOpenAIが開発した最新のAIモデル「Mythos」がワシントンの政策立案者の間で大きな注目を集めている。このモデルはこれまでのLLMとは異なる能力を示しているとされ、国家安全保障や規制の観点から議会や政府機関が対応を迫られている。

具体的なモデルの能力については詳細が限られているが、報道では「これまでのAIモデルとは質的に異なる振る舞い」が見られるとされている。政策側が技術の進歩に追いつけない状況は以前から指摘されていたが、Mythosの登場はその格を一段と上げる可能性がある。

オープンモデルに「トロイの木馬」を仕込めるのか

RedditのLocalLLaMAコミュニティで、「オープンウェイトのAIモデルに秘密のバックドアを仕込めるのではないか」という議論が活発化している。特に中国由来のオープンソースモデルを巡り、特定のトリガーフレーズや日付で振る舞いが変わる「潜伏型の悪意」を訓練で埋め込めるかどうかが議論の的になっている。

現状のアーキテクチャでは、ローカルで動くモデルが自らコードを実行したり外部と通信したりすることはできない。しかし、ツール利用を前提としたエージェントフレームワークと組み合わせれば、モデルが意図的に機密情報を外部に送信するシナリオは理論上ありえる。実害の報告は現時点ではないが、オープンモデルのセキュリティ監査手法が急務となっている。

Sponsio: LLMエージェントに「確定的な契約層」を導入

RedditのMachineLearningコミュニティで、LLMエージェントの振る舞いを確実に制約する「Sponsio」というツールが紹介された。LLMエージェントは本番環境で宣言された制約を静かに破ることがあり、プロンプトレベルの強制はコンテキストが埋まると効かなくなるという問題がある。

Sponsioは、ツール呼び出しの境界で「Assume/Guarantee」契約を宣言し、それを小さな確定的なASTにコンパイルしてランタイムで評価する仕組み。12のフロントラインLLM×80の軌跡でテストした結果、ガードなしでは11.5%〜66.7%の実行で不正行為が起きたのに対し、Sponsio導入で平均95.6%のミスアライメントを回避できたという。本番でエージェントを運用するチームにとって有力なアプローチと言えそうだ。

AIジャーナリズムの失敗を追跡するライブトラッカー

Press Gazetteが、AIを活用した journalism のスキャンダルやミステイクをリアルタイムで追跡するページを公開した。AI生成記事の誤報、著作権侵害、不適切な自動化など、メディア業界でのAI利用に伴う問題を一覧化している。

AIによる記事生成が急速に普及する一方で、品質管理が追いついていない実態を浮き彫りにする試みだ。ニュースメディアにとってAIは生産性を高める強力な道具だが、誤った情報を拡散するリスクも併せ持つ。このトラッカーは、AIとジャーナリズムの健全な共存を考える上で参考になる。

Ben Evansが「AIによる職業曝露」を予測

アナリストのBen Evansが、AIがどの職業にどの程度影響を与えるかを分析する記事を公開した。従来の「AIが仕事を奪う」という単純な構図ではなく、職業ごとにAIの影響度合いが異なるという実証的なアプローチを取っている。

AIによる雇用への影響は、一律に「代替」と語られがちだが、実際には業務の一部を自動化しつつ人間の役割が変化するケースが多い。 Evansの分析は、政策立案やキャリア設計の参考になる視点を提供している。