アムネスティがジェネレーティブAIの人権コストを告発、コネチカット州がAI雇用通知法を成立 — オープンウェイトモデルの安全性も議論に

アムネスティがジェネレーティブAIの人権コストを暴露する報告書を公開

アムネスティ・インターナショナルが「Unlawful by design: Exposing the human rights costs of generative AI」と題する報告書を公開しました。ジェネレーティブAIが設計段階から人権を侵害する構造を持っていると指摘する、かなり厳しい内容です。

報告書では、AIシステムの開発・運用における人権への影響を包括的に分析しており、プライバシー侵害、差別的な出力、労働者への監視、表現の自由への脅威など、多岐にわたる問題点が取り上げられています。タイトルにある「Unlawful by design（設計による違法性）」という表現が示す通り、AIの問題を個別のバグや事故ではなく、システム設計そのものに起因する構造的な問題として位置づけている点が特徴的です。

Hacker Newsでも注目を集めており、国際的な人権団体がAIについてここまで踏み込んだ報告書を出したこと自体が、AIガバナンス議論の新しい段階に入ったことを示していると言えるでしょう。

コネチカット州、AI使用時の従業員通知を義務付ける法律を署名

コネチカット州のネッド・ラモント知事が、雇用者に対してAIの使用に関する従業員への通知を義務付ける法律に署名しました。Bloomberg Lawが報じたところによると、これは米国の州レベルでAIに関する雇用者義務を定めた初期の法律の一つです。

具体的には、企業が採用や人事評価などにAIツールを使用する場合、従業員に対してその旨を通知することが求められます。AIの意思決定プロセスがブラックボックス化することを防ぎ、労働者が自分の評価や採用結果にAIがどう関わっているかを知る権利を保障する狙いがあります。

米国では連邦レベルの包括的なAI規制が依然として存在しないため、各州が独自に動き始めています。コネチカット州の法律は他州のモデルケースになる可能性があり、今後同様の法律が広がっていく可能性があります。

NPRが指摘するオープンウェイトAIモデルの危険性

NPRが「AI models are free, private, and will never say 'no'」と題する記事で、オープンウェイトAIモデルがもたらす安全性の課題を取り上げました。

オープンウェイトモデルは誰でもダウンロードして自由に使えるため、プライバシー保護やコスト削減の面でメリットがあります。しかし同時に、セーフティガードを取り外して悪意のある目的に転用することも技術的に可能です。記事では、モデルが「ノーと言わない」ことの危険性を強調しています。

この議論はAIオープンソースコミュニティにとって重要な論点です。モデルの民主化はイノベーションを促進しますが、悪用リスクとのバランスをどう取るかについては、依然としてコンセンサスが形成されていません。Hacker Newsでも議論が起きており、規制派と反規制派の意見が対立しています。

Guardian: シリコンバレーの「意識あるAIで宇宙を征服」計画

The Guardianが「Our tech overlords are planning for conscious AI to conquer the cosmos」と題するインタラクティブ記事を公開し、シリコンバレーの一部テックリーダーが抱くトランスヒューマニズム的なビジョンを批判的に取り上げました。

記事では、一部のテクノロジー指導者が「意識を持つAI」を開発し、人類を超越した存在として宇宙進出を目指すという構想を抱いていると指摘。こうした構想が、現実のAI開発の方向性や資金配分にどう影響しているかを分析しています。

Hacker Newsでは8ポイントとそこそこの注目を集め、「テック業界のメシアニズム」という批判的な視点や、「SF的な構想もイノベーションの原動力」という擁護的な意見が交わされました。技術の将来像を語る際、現実的な課題解決と哲学的な野心の境界線がどこにあるのかを考える良い機会になっています。

Qwen3.6-35B vs Gemma4-26B — 実運用ベンチマークで意外な結果

RedditのLocalLLaMAコミュニティで、Qwen3.6-35B-A3BとGemma4-26B-A4BをRadeon 7900 XTX上で徹底比較したベンチマーク結果が投稿され、大きな注目を集めています。

結果は直感に反するものでした。QwenのMTP（Multi-Token Prediction）によりデコード速度は130 tok/sとGemmaの78 tok/sを大きく上回りましたが、Qwenは同じプロンプトに対して約2倍のトークンを生成する（その多くが内部推論に使われる）ため、最終的なウォールクロックタイムではGemmaが約20%速いという結果になりました。

6種類の実務タスク（議事録、インシデント振り返り、ログトリアージ、コードレビュー、ビルド vs 買収検討、クリエイティブ）で比較した結果、5タスクでGemmaが勝利。唯一コードレビューでのみQwenが勝ちました。

投稿者の結論は興味深いものです。「より速いデコーダー＝より速い応答」ではない。推論モデルでは「回答に至るまでのトークン数」が「トークン毎秒」よりも重要になるという洞察は、ローカルLLMユーザーにとって実用的な指針と言えるでしょう。

TechCrunch: テックCEOは「AI精神病」に特有にかかりやすいのか

TechCrunchのポッドキャストEquity最新回で、テックCEOたちが「AI精神病（AI psychosis）」に特有にかかりやすいのではないかという議論が展開されました。

AIの可能性を過剰に信じ込み、現実的な評価を失う状態を「AI精神病」と呼ぶなら、確かにテック業界のリーダーたちの発言にはその傾向が見られるかもしれません。数ヶ月前には「AGIはもうすぐ」といった発言が相次ぎましたが、実用化のペースは予想より遅いという指摘も増えています。

この議論は前述のGuardianの記事とも重なるテーマです。テックリーダーのAIに対する過度な熱狂が、製品開発やビジネス戦略にどう影響しているのか。冷徹な判断を保つことの重要性を、改めて考えさせる話題です。