Amazonが「人間の介入」AIガバナンスに抵抗、AI音楽学習データの実態が判明、ほぼLLM不要のエージェントメモリ「FERNme」登場

Amazonが「human-in-the-loop」AIガバナンスに異議

The Registerの報道によると、AmazonはAIシステムのガバナンスにおいて「human-in-the-loop（人間の介入）」要件に強く反対する姿勢を示している。同社は、AIの判断プロセスに人間が関与することを義務付ける規制アプローチに対し、実効性やコスト面から疑問を呈しているという。

human-in-the-loopは、AIの自律性に人間の監督を組み合わせることで安全性を高める手法として、AIガバナンスの基本原則の一つとされてきた。しかしAmazonは、この要件がかえってシステムの効率を下げ、実質的な安全リスクを十分に軽減できないと主張しているもようだ。

この動きは、大手テック企業がAI規制の方向性をどう形作ろうとしているかを示す一例として注目される。規制当局と企業の間で、AI監視の「適切なバランス」をめぐる議論が今後も続きそうだ。

The Atlanticの調査報道により、大手レコードレーベルの楽曲を含む数百万曲が、AI音楽生成モデルの学習データとして無断で使用されていた実態が明らかになった。Engadgetがこの件を伝えている。

調査では、AI音楽スタートアップがSpotifyやApple Musicなどから収集した楽曲を学習データとして利用し、既存のアーティストのスタイルを模倣した新曲を生成していたケースが確認された。著作権者への許諾や報酬の支払いが行われていないケースも報告されているという。

音楽業界ではすでにAI生成楽曲に対する法的対応が進んでおり、この調査結果は今後の著作権訴訟や規制議論に大きな影響を与えそうだ。クリエイターの権利保護と技術革新のバランスをどう取るかが、改めて問われている。

Hacker Newsで「FERNme」というプロジェクトが発表された。AIエージェント向けのメモリ層で、従来のMem0などのシステムが毎ターンLLMを呼び出して記憶を抽出・要約するのに対し、FERNmeは書き込みパスでLLMを一切使わない設計になっているという。

FERNmeは、各ユーザーを「ファジー嗜好グラフ」のノードとして表現し、ヘッブ型共起ルールでエッジを更新する。ACT-R風の減衰メカニズムを備え、最終的に約40トークンの「メモリーカード」にコンパイルされる。検索はベクトル検索ではなく「拡散活性」で行う仕組みだ。

開発者によると、86件の自由形式日記エントリを取り込んでLLM呼び出しゼロで記憶を構築し、LoCoMo風QAベンチマークでは頻度・新しさベースラインの約4倍の正答率を達成したという。ただし、本格的なMem0との直接比較はまだ行われていないとのことで、実用性の検証はこれからの段階だ。

「FunnyBench」という、AIモデルが面白いジョークを理解できるかを測定するベンチマークが公開された。ユーモアという主観的で文化的な要素をAIがどこまで把握できるかは、自然言語理解の重要なフロンティアの一つだ。

シンプルなアイデアに見えるが、ユーモアには言葉遊び、皮肉、文脈依存のニュアンスなど、AIが苦手とする要素が多く含まれている。このベンチマークがモデルの改善にどう活用されるかが注目される。

Hacker Newsで「なぜデスクトップAIアプリはこんなに重いのか？」という質問が議論を呼んでいる。投稿者は「テキストアプリにすぎないのに、現代のPCで重いのはなぜか」と疑問を投げかけた。

コメントでは、Electronベースのアーキテクチャ、不必要な依存ライブラリ、ローカル推論のオーバーヘッドなどが指摘されている。推論自体はリモートで行われるケースが多い中で、UIレイヤーがボトルネックになっているという指摘は、デスクトップAIツールの設計見直しを促すものとして興味深い。