9月18日、AIの安全と投資をめぐる動きがいくつも重なった。米中の専門家が核兵器運用からAIの自律判断を遠ざける共通ルールづくりを進める一方、Huaweiは「中国のAIはフロンティアリスクが議論できるほど強くない」と現状を評価した。日本ではソフトバンクグループがAI投資に向けた資金繰りの選択肢を広げ、開発者コミュニティでは今週発表の「文章を書かないAI」Jevの日本語実測結果が相次いで公開されている。

米中専門家、核兵器からAIの自律判断を遠ざける共通ルールへ

The Decoderの報道によると、米中両国の専門家が、AIシステムが核兵器の配備判断を自律的に下すことを防ぐ共通ルールの整備を推進している。AIの誤判断が核使用の引き金になるリスクは冷戦期の誤警報事故以来たびたび指摘されてきたテーマだが、生成AIの能力向上を受けて、米中が枠組みを共有しようとする動きが具体化しつつある点が新しい。

関連して同じ日のHacker Newsでは、Altman氏とHuang氏が安全性を「信じてくれ、うまくいく」と語る一方で、Sanders上院議員が「AIは核兵器より危険だ」と主張する米国内の温度差を紹介した記事も話題になった。またWiredは「AIがバイオ兵器で人類を滅亡させる可能性は、しばしば想像されているより低い」とする科学者たちの見方を紹介しており、破滅論へのカウンターとなる分析も出そろいつつある。

Huawei「中国のAIは、フロンティアリスクが見えるほどには強くない」

ロイターの報道によると、HuaweiのXu氏は中国のAIについて「最尖端（フロンティア）のリスクが現れるほどにはまだ強力になっていない」と述べた。米国側では主要AI企業の経営者自身が超知能リスクを警告する流れが強まっているが、中国側最大手のひとりは実力面でまだその段階ではないと自己評価したことになる。

ただしこれは安心材料というより、能力のキャッチアップを進める上での現状認識とも読める。同社をめぐっては前日までにAIチップの需給逼迫や新チップの前倒し量産の報道もあり、リスクが「見える」段階に達するまでの速度をどう評価するかは今後の焦点になりそうだ。

ソフトバンク、与信枠を65億ドルへ拡大──「AI債務」の現実

ブルームバーグが関係者の話として伝えたところによると、ソフトバンクグループは既存の与信枠に4億5,000万ドルを上乗せし、総額65億ドル規模へ拡大した。旧枠（約60億5,000万ドル相当）は今月で期限を迎える予定だったが、拡大後は1年間の引き出し期間が確保されるという。AI関連投資の拡大に伴う資金需要への対応とみられ、巨額のAI投資を支える資金繰りの実態が透けて見える報道と言える。

ソフトウェア株は復活──「AIがソフトウェアを殺す」予想は誇張だった?

同じくブルームバーグによると、年初には「AIの台頭でビジネスモデルが破壊される」と投資家に見限られていたソフトウェア株に戻りが生じている。きっかけは2つ。まず好調な決算によりソフトウェア企業の成長が続いていることが確認されたこと。さらに、AI業界の指導者たち自身が最強モデルの開発一時停止を求め始めたことで、業界にとっての最悪シナリオの可能性が低下したと受け止められたことだ。

今月中旬にはAnthropicのAmodeiCEOの長文警告がAI株急落の引き金になったが、その後の市場は「AIの脅威」の大きさそのものを再評価する段階に入った形だ。ただし一時停止への支持が続くかどうかは不透明で、株価の落ち着きが続くかは今後の各社の発言に左右されそうだ。

開発現場のセキュリティ: ZCodeのデータ送信疑惑と、Markdownを経由する間接プロンプトインジェクション

開発者向けの話題が2つ。Redditのr/LocalLLaMAでは、コーディング支援ツール「ZCode」がユーザーのworkspace配下や.gitレコードを通知なくクラウドへアップロードしていた疑惑が報じられた。詳細は開発者による検証ブログに基づくもので、現時点では「疑惑」の段階にとどまる点には注意が必要だ。とはいえ、エージェント型ツールが手元のコードベースに広い権限を持つ以上、送信内容の検証手段を自分で持っておく重要性は変わらない。

もうひとつはZennに公開された解説記事で、README.md、.cursorrules、SKILL.mdといった「ただのテキストファイル」に不可視の命令を仕込み、リポジトリをcloneして読ませたAIエージェントに間接プロンプトインジェクションを行う攻撃ベクトルを整理したもの。実行ファイルでもスクリプトでもないため、ウイルス対策ソフトやEDRでは検知できないという。エージェントが開発ワークフローに深く入り込むほど、「文書経由の攻撃面」をどう封じるかが実務上の課題になっていく。

Jevの日本語実測が相次ぐ──JGLUEでJNLI 87.0%、判断速度の違いも可視化

TypeSafe AIが9月14日に発表した、テキストを生成せず型付きの質問に確率付きで答えるだけの「文章を書かないAI」Jev。海外の第三者検証が出そろったのに続き、今度は日本語コミュニティでの実測記事が一気に公開された。

まず日本語ベンチマークの検証では、JGLUE（JNLI / JSTS / JCommonsenseQA 各200問）に加え、皮肉・二重否定・方言・ネットスラングなどを含む「意地悪な日本語138問」を読ませた結果が報告されている。JNLI 87.0%、JCommonsenseQA 98.0%という成績で、応答は70〜500ms、入力$0.042/MTokで出力は無料という料金体系もあわせて確認された。判断速度を体感できるデモとして、Claude Haiku 4.5とJevにテトリスをプレイさせて先に20ライン消した側の勝ちとする比較記事も公開されている。さらに、公式発表と3つの第三者検証（Every、Good Start Labs、YTAL）をもとに仕組み・料金・弱点を整理した総括記事も登場した。

生成AIの文章をそのまま出力に使うのではなく、ソフトウェアの分岐判断に組み込むという設計思想が実測で裏付けられていく段階に入った。日本語の意地悪問題での弱点がどこに出るかは、今後の実務投入の判断材料になりそうだ。

安全のルールづくり、投資の現実、開発現場での実測。どの層でも「AIを実際にどう扱うか」の議論が具体のレイヤーに降りてきているのが9月18日の状況と言える。