8月14日、AI生成物の「信頼性」と「検証」をめぐる話題が目立った一日でした。生成テキストの透かし技術への関心が高まる一方で、LLMの推論手法の限界や、AIが生物学の領域に踏み込む最新報道も伝えられています。日本の現場では、最適化技術が鉄道の計画づくりを変えつつあります。

AI生成文の「透かし」の仕組みを解説した記事が話題に

AIが生成した文章に、人間の目には見えない「透かし（ウォーターマーク）」を埋め込む技術――その仕組みを詳しく解説した記事が、技術コミュニティで大きな注目を集めています。

公開されたのは declaude.org の「How AI text watermarking works」という記事です。Hacker News では38ポイント、17件のコメントが寄せられたほか、Reddit の LocalLLaMA コミュニティでも共有されました。生成AIの普及が進む中で、人間の文章とAIの文章を見分ける技術への関心が改めて高まっていることがうかがえます。

LLMの「多数決」は難問で逆効果になる

LLMの精度を上げる「定番テクニック」のひとつに、同じ問題を何度も解かせて最も多かった答えを採用する「self-consistency（自己一貫性）」という手法があります。しかしQiitaに投稿された考察では、この多数決アプローチが難問では逆に精度を落とすことが指摘されています。

同記事は、難易度の高いベンチマーク「GPQA」で検証した結果、約6割の問題で精度が低下したと報告しています。評価スクリプトにこっそり多数決を仕込むようなやり方が、かえって評価を歪める落とし穴になり得るとのことで、安易な適用には注意が必要そうです。

AIが「機能するウイルス」を設計できる時代へ

IEEE Spectrumは、AIが機能するウイルスを設計できるようになったと報じています。Hacker Newsでも話題になっており、バイオセキュリティや二重利用（デュアルユース）への懸念が浮上しています。

生成AIがコードや文章だけでなく、生命科学の設計領域にも踏み込む中で、安全対策と検証の在り方がますます重要になりそうです。現時点では技術の詳細や制御の枠組みについては元記事をご覧いただきたい部分も多く、引き続き注視が必要な分野と言えます。

南海電鉄が量子アニーリング技術で乗務員計画を自動化

日本の現場では、AI・最適化技術が実務に組み込まれ始めています。南海電気鉄道と日立製作所は、日立独自の「CMOSアニーリング」技術を活用し、鉄道の乗務員や車両の運用計画を自動作成するシステムの構築に着手すると発表しました。

これまで数カ月かかっていた計画づくりが1週間程度に短縮される見込みだといい、長らく熟練者の手作業に依存してきた業務の負荷軽減が期待されています。量子計算の仕組みを一般の半導体で疑似的に再現するCMOSアニーリングが、身近な社会インフラの現場で実用化の一歩を踏み出した事例と言えそうです。

透かし技術への関心の高まり、推論手法の限界の発見、バイオ領域への進出、そして現場での最適化技術の導入。AIが社会に溶け込むにつれ、「信頼」と「検証」の仕組みをどう整えるかが問われる一日でした。