9月19日朝のまとめ。AIの「独立評価」をめぐる動きが一気に具体化した。AnthropicはAccentureと提携し、評価者を社内に埋め込む「埋め込み評価（embedded evaluation）」を最初の形として始動させる。カリフォルニア州もAIラボ内の独立監査人とモデルの「キルスイッチ」を求める行政命令に動いた。一方、AIの誤った報告が米軍による中国艦船の要撃をほぼ引きかけたとの報道も伝えられ、評価と安全の制度化が急務である状況が鮮明になっている。消費者向けではGoogleの家庭エージェント「CC」とMac版Muse、開発者向けではJevの国内提供と続き、AIデータセンターのNscaleはIPOを申請した。

AnthropicがAccentureと提携、「評価者を社内に埋め込む」最初の取り組み

Anthropicの発表によると、同社はAccentureと提携し、フロンティアAIの独立評価を進める。これはCEOのDario Amodei氏がエッセイ「We Must Pace the Frontier」で約束した「評価者（evaluators）をAnthropic内に埋め込む」取り組みの第一歩だ。提携はAccentureの専門AI事業であるFacultyが主導し、モデルの評価とレッドチーミング、アライメント評価、セーフガードのテストなどを担う。

特徴は評価者の立場にある。今日の外部評価者と異なり、埋め込み評価者はAI企業の内部で、社員と同等レベルのアクセス権を持って働く。訓練の中でモデルが形を成す過程を直接観察し、モデルの構築・展開を左右する意思決定を追い、従業員と直接対話できる。この位置から、企業の運営実態を評価し、安全コミットメントが守られているか検証し、盲点を特定できる。インシデントの報告や、便益とリスクについてのより情報に基づいた公開説明も期待される。Anthropicは「独立した埋め込み評価者は当社の説明責任を減らすものではなく、より検証可能なものにする」と強調し、モデルの安全性の責任が自社にあることは変わらないと明記した。

規模も大きい。両社は今後5年間で、この領域の能力構築にそれぞれ少なくとも10億ドルを投資する見通しだ。Bloombergによれば、評価者はAnthropicの社員と同程度のアクセス権を持ち、最新モデルのレッドチーミングやセーフガードのテスト、アライメント評価を実施する。

埋め込み評価は新しい仕組みで、運用の詳細はまだ詰めの最中だと同社自身が認めている。評価者がどこまでの情報にアクセスすべきか、何をどう報告すべきかの標準は存在しない。独立評価の資金についても確立した仕組みがなく、Anthropicは長期的にはプールされた資金や政府資金が望ましいという自社の「Advanced AI Framework」（6月）の主張を引用したうえで、現時点ではAnthropicがAccentureの活動を直接資金提供する。METRなど非営利評価者とも、それぞれ独自の資金で埋め込み評価の要素を試験することを協議中という。提携は非排他的で、Anthropicは今後数週間で他の評価者との提携も発表予定、Accentureも他のAI開発者と同様の役割で協業していく。

カリフォルニア州、AIラボ内の独立監査人と「キルスイッチ」の検討へ

同じ日に州レベルの動きも進んだ。The Decoderの報道によると、カリフォルニア州のGavin Newsom知事は、AIラボ内に独立した監査人を置くことと、AIモデルの「キルスイッチ」を求める行政命令に署名した。専門家で構成するパネルは2カ月以内に勧告をまとめる。Newsom知事は、危険なインシデントの報告をAI企業に義務付ける連邦法が現状存在しないことを問題視しているという。

Anthropicの埋め込み評価が「業界の自主取り組み」とすれば、こちらは「公的な枠組みでの制度化」の検討だ。両者は方向として噛み合っている。独立した目が開発の内側に届くかどうかは、ここ数日報じられてきた減速論争の実効性を左右する論点でもあり、2カ月後の勧告内容は注目に値する。

AIの誤った報告が米軍による中国船要撃をほぼ引きかけた──CNN報道

安全性の制度化が急ぐべき理由を示すかのような報道もあった。CNNの報道を複数の媒体が伝えたところによると、AIのエラーが米軍による中国船の要撃をほぼ引き起こしかけたという。RNZは「AIチャットボットの誤った報告が中国との戦争をほぼ引き起こした」と、関係者の話として報じている。

収集した情報は報道の見出しレベルにとどまり、いつどのような経緯で起きたのか詳細は本稿では確認できない。ただ、米中の専門家が「核兵器運用へのAI自律判断を排除する共通ルール」づくりを進めていると報じられたのは昨日のことだ。誤情報・誤判断が実際の軍事行動に連動しかけたとされる事例が報道されるなら、判断の速さが求められる場面ほど人間の検証を挟む設計の重要性は増す。今後の追加報道を待ちたい。

Googleの「CC」とMac版Muse──AIエージェントは家庭とデスクトップへ

消費者向けAIエージェントの射程も広がっている。TechCrunchによると、GoogleはAIエージェント「CC」を家庭内の調整（household coordination）に再フォーカスした。家族でメール・スケジュール・タスクを共有すると、AIがカレンダーの管理、フォームの記入、買い物リストの作成、食事の計画などを担うという。

同日のTechCrunch報道では、Metaの「Muse」がMacで利用可能になった。ファイルやアプリと連携して、ユーザーの代理として操作を実行できる。スマートフォン中心だったAIエージェントが、家庭という共有スペースと、デスクトップという作業環境の両方に本格的に入り込もうとしている。家族単位での情報共有やPC上での代理操作は利便性と引き換えにプライバシーや権限の設計という新たな問いも伴う。今後の展開から目が離せない。

Jev、TechCrunchで取り上げられロリポップ！AIゲートウェイでも提供開始

先週発表以来、日本語圏の実測記事が相次いでいた「文章を生成しないAI」Jevに、海外大手メディアの目も向いた。TechCrunchは「ChatGPTの発明者の一人による新しい種類のAIモデルが開発者を熱狂させている」と報じ、より安く速いソフトウェアインテリジェンスへの道を示すものとして紹介した。

国内でも動きがある。GMOペパボの発表によると、ロリポップ！AIゲートウェイからJevを呼び出せるようになり、9月24日までは無料で試せる。同社はAIゲートウェイの「ルールで利用モデルを選ぶ」仕組みとJevを組み合わせ、タスクに応じたLLMの選択自体をJevに任せるルーティング実験を公開している。さらに将棋の実験では、選択肢を「その局面で指せる手」として渡すことで探索エンジンなしでJevに対局させ、どこまで勝てるかを試した。

前回は日本語ベンチマークでの実測（JNLI 87.0%など）が中心だったが、今回は「大手メディアでの報道」「国内ゲートウェイでの提供開始」と、実用インフラ側の揃え方が進んだ。判断特化モデルをアプリのどこに組み込むかの設計判断が、より身近なものになりつつある。

AIデータセンターのNscaleがIPO申請──上半期の純損失は10億ドル超

供給側の資金調達も動いている。Bloombergの報道によると、NvidiaとMicrosoftをパートナーに持つAIデータセンター企業Nscale（ロンドン拠点）が、ニューヨーク証券取引所への上場に向けてIPOを申請した。調達資金は、AIの計算需要に応える設備への投資に充てるという。

注目は財務内容だ。SEC提出資料によると、6月30日までの6カ月間で同社の収益は1億4,060万ドル、純損失は10億2,000万ドル。前年同期は収益1,040万ドル、純損失3億6,890万ドルだった。収益は約13倍に伸びる一方、損失も約3倍に拡大している。AI需要の「際限のなさ」に応えるために設備投資を先行させ、その資金を市場から調達する構図が数字として可視化された形だ。巨額の投資が回収まで至るかは、AIサービス収益の伸びと直接つながっていく。

独立評価の制度化（自主と公的規制の両面）、軍事文脈でのAI誤報、家庭とPCに広がるエージェント、実用インフラが揃い始めたJev、そしてIPOで資金を調達するデータセンター。9月19日時点のAIを取り巻く議論は、「作る側の約束」から「検証と実装の仕組み」へと一段深いレイヤーに移りつつある。