8月18日のAIニュースまとめ。監視技術の設計判断が問われる一日だった一方、広告展開やインフラ効率化など商業面の動きも目立ちました。

Flockのナンバープレート監視網、悪用防止策に「事件番号は検証しない」という抜け穴

MIT Technology Reviewが、警察テック大手Flockへの擁護論に足りない視点を指摘する記事を出しました。

Flockは全米に約12万台の自動ナンバープレート読み取りカメラを展開しています。先頃ワシントン・ポストは、警官がFlockや競合のシステムを悪用した事例を50件特定しました。多くは女性へのストーキングや嫌がらせで、ウィスコンシン州のある女性は警察官だった元恋人に自分の車を179回も検索されたと申し立てています。

こうした批判を受け、Flockは先週木曜日にプラットフォームの変更を発表しました。異常な検索をソフトウェアで検知する仕組みや、検索時の事件番号入力の義務化などが柱です。

ただし記事が指摘するのは、ここに大きな抜け穴があることです。FlockはMIT Technology Reviewの取材に対し、入力された事件番号を検証していないと認めました。警官がでたらめな番号を入力すれば、これまで通り突破できます。警察署の記録と番号を照合する設計も技術的には想像できるもので、より強い safeguards になるはずですが、Flockはその選択をしていません。

記事はさらに、設計の選択肢をいくつか示しています。行方不明者捜索など緊急時だけ広域データにアクセスできる設計や、Flock自身が「検索の90%は事件発生から1週間以内に起こる」と明かしている点を根拠に、データの保持・共有を実際に有用な期間へ絞るやり方です。Flockは推奨保持期間を7日間へ変更したばかりですが、実際には各機関が望むだけ長く保持できます。

なぜ重要なのでしょうか。Flockのシステムが犯罪解決に役立つかどうかとは別に、「何を集め、誰が検索でき、どれだけ保持し、どこまで共有するか」という設計判断の積み重ねが、限定された捜査ツールと全国規模の監視網の分かれ目を決めます。すでに一部都市は契約を打ち切っており、州レベルでも読み取り機器の制限・禁止を目指す法整備の動きが広がっています。ACLUの政策責任者は「私の基準で最も許容できるFlockとの契約は、署名されない契約だ」と冗談まじえに述べ、企業のガイドラインではなく法律で制限を設けるべきだと強調しました。

ChatGPTの広告テスト、対象国に日本など5カ国が追加

OpenAIは8月11日付で、ChatGPTに表示する広告のテストについて公式ページを更新し、対象国に英国・メキシコ・ブラジル・日本・韓国の5カ国を追加しました。日本でも広告表示のテスト対象に入ったことになります。

対象プラン、表示仕様、広告を外す際のオプトアウト条件などは、日本語の解説記事がQiitaにまとまっています。どのプランでどこに表示されるのか、オプトアウトにどんな条件が付くのかは日本のユーザーにとって気になるポイントで、詳細は今後の公式発表と実際の表示を待ちたいところです。

同じクラスタでGPU利用率が33ポイント向上 — 変えたのは「順序」だけ

Hugging Faceの公式ブログに、Dharma AIによるGPUクラスタ管理についての記事（連載の第2弾）が掲載されました。タイトルは「Same Cluster, 33 Points More Utilization: What Changed Was the Order」。同じクラスタ構成のまま、ある「順序」の変更だけで利用率を33ポイント引き上げた、という報告です。

GPUの追加調達をせずに利用率を上げる工夫は、算力の確保がボトルネックになりやすい今、実務者にとって関心の高いテーマです。どの順序をどう変えたのか、具体的な手法は元記事で解説されています。

偽のシンクタンクでAIチャットボットを騙す動きが報じられる

外交・安全保障系メディアのResponsible Statecraftは、イスラエルが偽のシンクタンクを設立したと報じました。AIチャットボットを欺こうとする試みとみられるとしています。

生成AIによる検索や要約が情報の入り口になるなか、モデルが引用しそうな「もっともらしい情報源」をあらかじめ用意する手法は、従来の検索エンジン向け操作とは違う新しい情報操作のかたちと言えます。断定は避けますが、「AI検索時代の情報操作」という観点で注目しておきたいニュースです。

まとめ

監視技術では設計判断そのものが市民的自由との取引条件になること、広告ではChatGPTの日本での表示テストが現実のものとなったこと、インフラ面ではGPUを増やさない工夫が紹介されたこと、そしてAI検索を狙う情報操作の芽も見え始めたこと――。技術の性能だけでなく、その運用と周囲の構造に目を向けるべきニュースが並んだ一日でした。