AI幻覚の引用が医学論文に侵入――臨床ガイドラインに影響も

コロンビア大学などの研究チームが250万件の生物医学論文を監査した結果、AIが生成したとみられる架空の参考文献が2023年以降12倍以上に増加していることが判明した。問題は、これらの論文の一部が実際の臨床ガイドラインの策定に使われていることだ。

AIの文章生成能力は研究の効率化に貢献する側面もあるが、引用の正確性までは保証しない。架空の引用が臨床現場の意思決定に影響を与える可能性は、単なる学術的な不正を超えた公共の健康リスクと言える。研究チームは、言語モデルの普及との関連を指摘しており、AIツールの利用には人間による検証プロセスの強化が不可欠となっている。

Altman氏が「雇用の終末」論を修正

OpenAIのSam Altman氏が、これまでの「AIによる大規模な雇用破壊」の可能性に関する見解を改めた。ロイター通信の報道によると、Altman氏は「AIは雇用の終末をもたらす可能性は低い」と述べた。

AI業界のトップが自身の過去の予測を公に修正するのは注目に値する。一方で、MIT Technology Reviewの分析が示すように、入社1〜3年目の若年層においてAI暴露度の高い職種で雇用が16%相対減少しているというデータも存在する。Altman氏の発言は「大規模な雇用危機は起きない」という意味であり、特定の層への影響を否定するものではない点に留意が必要だ。

INGがvibe codingでトレーディングシステムを構築

オランダの大手金融機関INGが、AIによるコード生成手法「vibe coding」を用いて新しいトレーディングシステムを構築していることがBloombergの報道で明らかになった。

「vibe coding」とは、自然言語でAIに指示を出し、コードを生成させる開発手法を指す。金融機関のミッションクリティカルなシステムにこの手法が適用されるのは、企業におけるAIコーディングの活用が想定以上に進んでいることを示唆している。一方で、生成コードの品質保証やセキュリティ監査のあり方が改めて問われる事例ともなっている。

SpotifyCEOがAI生成音楽を擁護

SpotifyのDaniel Ek CEOが、AIによって生成された音楽のプラットフォームでの存在を擁護した。FTの報道によると、Ek氏はアーティストの権利を尊重しつつも、AI音楽を排除する考えはないという立場を示した。

音楽業界におけるAIの存在感は年々強まっており、すでにAI生成楽曲のストリーミング配信が一般化しつつある。ストリーミング最大手のCEOが明確にAI音楽の受け入れを表明したことは、業界全体の方向性を示す重要な発言と言える。ただし、著作権やアーティストへの還元という根本的な課題は依然として未解決のままだ。

Blockが社内AIエージェント「Goose」をオープンソース化

SquareやCash Appを展開するBlockが、社内で60%の従業員に普及したAIエージェント「Goose」をオープンソースとして公開した。

GooseはBlock内で広く使われているAI開発アシスタントで、コード生成からレビュー、テストまで幅広く支援している。社内での高い普及率は、AIエージェントが開発ワークフローに深く組み込まれる可能性を実証している。オープンソース化により、他の企業や開発者も同様のAI支援開発環境を構築できるようになる。

Amdahlの法則で考えるLLMコード生成の限界

Hacker Newsで「LLM生成コードにおけるAmdahlの法則」という議論が注目を集めている。LLMは理論上何百万行ものコードを生成できるが、重要なコードの正確性を保証する唯一の方法は手作業での監査であり、しかも監査は書くことよりも難しいという指摘だ。

これはLLMによるコード生成の生産性向上に対して、本質的な上限が存在することを示唆している。人間が理解し検証できる速度がボトルネックになる限り、コード生成の高速化だけでは全体のスループットは頭打ちになる。テスト自動化や形式的検証の進展がこの壁をどれだけ押し上げられるかが、今後の鍵となる。

MicrosoftがAIエージェントガバナンスツールキットを公開

MicrosoftがAIエージェントの運用管理向けツールキット「Agent Governance Toolkit」をオープンソースで公開した。AIエージェントの挙動監視、アクセス制御、コンプライアンス対応を支援するフレームワークを提供する。

企業でのAIエージェント導入が加速する中、ガバナンスの不在は重大なリスクとなる。Microsoftがこの領域で標準的なツールを提供することは、業界全体のAIエージェント安全性の底上げに寄与するとみられる。