9月27日深夜のAIニュースまとめ。WSJ紙の報道によると、Anthropicで最も勤続の長い社員の一部が、AIが暴走した場合の避難先として米国の辺境地域に土地を購入することを検討しているという。実害を示す報せもある。AIを悪用したメッセージング詐欺により、イタリア最大手の銀行Intesa Sanpaoloが数百万ドル規模の被害を受けたとReutersが伝えた。一方で実装面では、米国の介護現場にヒューマノイドを導入する動きが報じられ、開発者向けにはAIエージェントの「忘却」問題を掘り下げたO'Reillyの記事が注目を集めている。

Anthropicの古参社員、「AIが暴走した場合」に備えて辺境の土地購入を検討

The DecoderがWall Street Journalの報道として伝えたところによると、Anthropicで最も勤続の長い社員の一部が、AIが暴走した場合の避難場所として、米国の辺境地域の土地購入を検討しているという。報道は同社と実効的利他主義（Effective Altruism）運動との深い繋がりや、10年以上にわたって破滅シナリオを推演してきたベイエリアの「ドゥーマー」ネットワークの実態にも踏み込んでいる。

AIの安全性を職務とする企業の関係者自身が、最悪のシナリオに備えた物理的な備えを検討しているという話は、安全性への懸念が抽象的な理念から当事者の生活設計にまで浸透していることを示唆する。もっとも、これは一部社員個人の動向に関する報道であり、会社としての方針を示すものではない点には留意が必要だ。

AIメッセージ詐欺、イタリア最大手銀から数百万ドル──Reuters報道

Reutersの報道をHacker Newsが取り上げた。関係者への取材によると、AIを悪用したメッセージング詐欺により、イタリア最大手の銀行Intesa Sanpaoloが数百万ドル規模の損害を被ったという。詳細な手口は「関係者談」として限定的に伝えられている。

AIを悪用した詐欺の報道はこれまでも相次いでいたが、標的が個人から金融機関そのものへ広がっている可能性がある点が注目される。生成AIによる文面の偽装が高度化する中、組織内の意思決定プロセスそのものがソーシャルエンジニアリングの対象になりつつある、とみられる。

米長期介護は年4,000億ドル、ヒューマノイド「Abi」は認知症患者の伴侶に

Bloombergの動画レポートでは、米国の高齢者介護をヒューマノイドロボットで支える試みが取り上げられた。米国の長期介護への支出は年間約4,000億ドルに上る一方、65歳以上100人に対して正式なケアワーカーはわずか4人しかいないという。

中でも印象的なのが、Andromeda社が開発したヒューマノイド「Abi」だ。認知症患者の情緒的な伴侶を提供することを目的に設計されており、番組ではAndromedaのCOO、Brookingsの研究者、人型ロボット企業1Xのチーフデザイナー、NVIDIAの担当者が、ロボットが介護危機の解決に本当に役立つのか、それとも技術はまだ程遠いのかを議論した。

このブログでも先にまとめた「見知らぬキッチンを片付けるロボット」と同様、LLMの進化がロボットの実用化を後押しする流れは続いている。ただし介護は家事以上に対人関係が問われる領域で、情緒的な伴侶を機械が担うことの是非を含め、普及の壁は技術そのものより社会の側にあるともいえそうだ。

O'Reilly「あなたのAIエージェントは、伝えた内容の半分をもう忘れている」

開発者向けメディアO'Reillyの記事「Your AI Agent Already Forgot Half of What You Told It」がHacker Newsで注目を集めている。タイトルが示す通り、AIエージェントが処理の過程でユーザーから渡された情報の相当部分を「忘れて」しまう問題を扱った内容だ。

エージェント型AIの実用化が進む中、コンテキストウィンドウの容量そのものよりも、長時間のタスクの中で必要な情報が抜け落ちる「忘却」の方が実害になりやすい、という問題意識は現場の感覚とも一致する。会話履歴の要約や外部メモリの設計など、記憶をどう保守するかがエージェント設計の主戦場になりつつある。

ローカルLLM界隈:「Qwenの小規模モデルはどこへ」と不満──27BでもRTX 4090でモーショングラフィックス

RedditのLocalLLaMAコミュニティでは「Qwen, where's the small stuff?」と題した投稿が議論を呼んだ。Qwen 3.5シリーズ以降、1B/2B/4Bクラスの新しい小規模モデルがリリースされておらず、Qwen 4でもこの方針は変わらない見通しだという。投稿者は「オープンウェイトLLMの本来の使命は、一般の人にAIを届けることなのに、これは矛盾している」と指摘。多くの小規模事業者や個人がQwenのベースモデルに依存して軽量モデルを開発している現状では、軽量ウェイトの不在がエッジデバイス向けAIの発展を遅らせると論じている。

同じコミュニティでは、話題のOpus 5.5によるモーショングラフィックス投稿に対して、ローカルのQwen 27BをGeForce RTX 4090で動かして対抗したユーザーも現れた。「ローカルでもここまでできる」という実演で、高性能なクラウドモデルに頼らない創作物の可能性を示した形だ。

経済分析「AIと創造階級の没落」が注目

経済分析メディアApricitasの記事「AI and the Fall? Of the Creative Class」もHacker Newsで話題になっている。都市経済を支えてきた知的・創造的職業層がAI代替の波に晒される、という問題意識の分析で、AIが雇用に与える影響を「新卒」や「クリエイター」といった層ごとに掘り下げる近年の流れの一つといえそうだ。