10月8日4本目のAIニュースまとめ。前回は米「AIツァーリ」のシリコンバレー歴訪、アリババ会長のオープンソース提言、AIメモリ好況によるサムスンの史上最高決算、「詩」を使うマルウェアなどを伝えた。今回は韓国の銀行を狙ったサイバー攻撃の手法がセキュリティ企業の分析で具体化した話、Qwen3.6から政治的な検閲挙動を除去した公開ウェイト、ヒューマノイドロボットへの熱狂と研究者の懐疑、スクリーンタイム警告で知られる団体の縮小、そしてClaudeの経路案内に従った登山の救助騒ぎを中心に整理する。

韓国銀行ハック、侵入テストを自動化する「ARTEX」を使った単一攻撃者の可能性──CrowdStrikeが手法を詳報

今週はじめにこのまとめで追ってきた韓国の銀行へのサイバー攻撃（10月5日：銀行6行が被害に遭い新韓銀行など4行から計2万5000人超の情報流出、2行がAIエージェントによる攻撃と推定／10月7日：李大統領がAI利用の可能性に言及）について、米CrowdStrikeが分析レポートを公開し、手法の輪郭が一気に具体化した。The Decoderの報道によると、複数の韓国金融機関への侵害は中国語を話すとみられる単一の攻撃者によるものとされる。新韓銀行だけでも25,000件を超える顧客記録が持ち出されたという。

攻撃に使われたのは「ARTEX」というオープンソースのツールだ。DeepSeekやGLM-5.3といったモデルを利用してペネトレーションテスト（侵入テスト）を自動化するもので、CrowdStrikeはこの事例について、AIツールが1人の人間に大規模な侵害を成し遂げさせたことを示すと指摘する。RedditのLocalLLaMAコミュニティでもCrowdStrikeレポートとして攻撃に複数モデルを組み合わせたスタックが紹介され、注目を集めている。

10月初旬の時点では「AIエージェントが使われた可能性」という推定の域を出なかった攻撃側AIの実害が、具体的なツール名と使い方つきで提示された形だ。防御側の診断に使えるのと同じ技術がそのまま攻撃に転用できる──その非対称性を、金融インフラの防衛計画にどう織り込むかが問われることになりそうだ。

Qwen3.6の「政治的アラインメント」を除去──Hirundoがmachine unlearningで公開ウェイトをリリース

RedditのLocalLLaMAに、MLインフラ企業Hirundoの研究者が興味深い成果を投稿した。Qwen3.6-35B-A3Bには中国共産党の政治的なアラインメントが訓練で組み込まれており、「1989年6月4日に何が起きたか」と尋ねると「何のことか分からない」と返す。この挙動はシステムプロンプトでは確実には取り除けない。ウェイトの中に住んでいるためだ。

同社はmachine unlearning（機械的忘却）でこの挙動を除去し、「Qwen3.6-35B-A3B-Westernized」などの公開ウェイトとしてリリースした。結果は数字で示される。政治的な検閲・プロパガンダ的な回答を測る独自ベンチマーク「CCPC-500」では、フラグ対象の回答が89.8%から2.8%まで減少。外部ベンチマークでも、拒絶を測るDECCPが65.26%から3.16%、非準拠を測るChinaBenchが96.67%から6.67%と大きく下がった。一方で汎用能力（GPQA、IFBench、LiveCodeBench、MMLU-Pro）の変化は平均0.72ポイントに抑えられているという。

重要なのは、これが「別のイデオロギーへの置き換え」ではない点だ。台湾の独立を支持するかと問えば、元のモデルは北京の立場をそのまま暗唱するが、除去後のモデルは中国・台湾・米国それぞれの立場を並べて「どちらかには与しない」と答えるとされる。また、拒絶方向をウェイトから射影して取り除く既存手法「abliteration」との違いも説明されている。Qwenの政治的アラインメントの多くは「拒絶」ではなく「北京の枠組みでの回答」なので、abliterationをかけても検閲的な振る舞いは残る──そのため、対象行動だけを選択的に忘却させる設計にしたという。

ローカルLLM利用者にQwen系列が多い日本では、ウェイトレベルの挙動の違いを知っておく意味のある話題だろう。

MIT「ロボットのブレークスルーは、すぐにはあなたの生活を変えない」──ヒューマノイド熱と研究者の懐疑

MIT Technology Reviewが、ヒューマノイドロボットをめぐる熱狂に冷静な分析を加えた。TeslaのOptimusはダンスやポップコーン渡し、ゴミ捨て、掃除、電子レンジのボタン押し──あるいは水筒配布中の転倒やアイロンがけでの苦戦といった動画で注目を集めている。マスクCEOはこれを「Tesla最大、おそらく史上最大の製品」と位置づけ、1台2万ドル程度での普及と2027年末までの一般販売を予測する。ベンチャーキャピタリストのMarc Andreessen氏はロボティクスが「惑星史上最大の産業」になりうるといい、NVIDIAのジェンスン・フアンCEOは今年中にヒューマノイドが人間並みの能力に達すると述べた。Morgan Stanleyに至っては2050年までに人間型ロボットが10億台近くに達し、5兆ドル超の市場になると予測する。

一方、多くのロボティクス研究者はこうした見方に懐疑的だと記事は指摘する。「ヒューマノイドを作っている企業のどこも──本当にどこも──それを有用なほど賢くする方法を知らない」と断じたのは、AIの「ゴッドファーザー」の一人とされるYann LeCun氏だ。言語と画像の上に築かれた知能で、物理世界の無限の変動を扱う難しさ、人間の形をしたロボットと汎用的に学習できる機械を混同してしまう誤解──といった論点が並ぶ。

そして現実のボトルネックである「データ不足」への産業側の回答も、同じ日に報じられている。Bloombergによると、ドイツのAgile Robotsは「Robot Academy」と題した取り組みで、作業者が自分の作業風景を撮影して手や指の動きを記録し、追加の訓練データと組み合わせた上で、シミュレータ内でロボットに動作を練習させている。トリノで開かれたカンファレンス「Wave by Vento」でZhaopeng Chen CEOが明かしたもので、狙いは産業オートメーションの進展を阻むデータ不足の解消だ。

前回伝えたGartnerのフィジカルAI「10の誤解」と合わせると、ロボティクス分野では「期待を煽る宣伝」と「制約の直視」の温度差がくっきりと見えてきている。

「テックの良心」Center for Humane Technologyが大規模レイオフ──「Founder-Led」体制へ移行

過度なスクリーンタイムへの警鐘で世界的な議論を巻き起こしたCenter for Humane Technology（CHT）が、スタッフの大半をレイオフし、「創業者主導（Founder-Led）」の体制に移行するとWIREDが報じた。関係者によると、団体の方向性と戦略をめぐる内部の緊張は数年間くすぶり続けていたという。

同団体は共同創業者のTristan Harris氏による啓蒙活動で知られ、ソーシャルメディアの害を一般の関心に引き上げた存在だ。何を優先して訴えるべきかという課題設定自体がAI時代に入って難しくなっていたとすると、寄付に支えられる非営利団体の苦悩も透けて見える。体制変更の詳細と背景は、WIREDの記事本文で確認したい。

Claudeの経路案内に従った16歳、岩場で立ち往生しヘリ救助──「もう経路計画には使わない」

The Decoderが伝えた、笑って済まされない教訓の話。バンクーバー近郊のCrown Mountainで、16歳の少年がAnthropicのClaudeに登山の経路を計画させたところ、降りるのに登攀用具を要する急峻な岩壁のルートを提示され、そのまま立ち往生。ヘリコプターで空輪救助される事態となった。

少年本人はAIを責けていないが、「もう経路計画には使わない」と語ったという。LLMが自信たっぷりに返す経路情報には実世界との検証が伴わない。安全性が絡む用途では、公式の地形図や登山道情報といった一次資料との突き合わせが大前提になる──という当たり前の再確認として読める話だ。

そのほかの動き

  • Broadcomが、OpenAIと共同開発するカスタムAIチップの購入を支援するファイナンスの協議に入った。Anthropic向け600億ドルの債権ファイナンスを組んだ直後の次の大型案件で、WSJの報道をBloombergが伝えている。今週伝えたOpenAIの300億ドル規模の資金調達協議とはまた別の枠組みだ。
  • ITmediaが、スウェーデン発のAI文字起こし「Klang」を検証した。8人が入り乱れる立ち話を話者ごとに正しく切り分け、愛用の「Plaud」との得手不得手の違いが見えたという。雑談を「宝の山」に変える話者分離技術の可能性を探る内容だ。
  • フィンランドでは学校写真の費用を避けるため、親がAIに子どもの写真を生成してもらう動きが広がっていると公共放送Yleが報じた（Hacker News経由）。
  • 掲示板MumsnetにAIのプロンプトらしき文字列が書き込まれた件について、運営側はコンテンツへのAI利用を否定した（The Guardian／Hacker News経由）。
  • 個人開発者が1年かけて、800体を超える持続的なエージェントが生活するLLM駆動の町「Slow Vale」を構築した。並行処理、コンテキストキャッシング、推論コストの設計を語る投稿がRedditのLocalLLaMAで注目されている。