xAIが安全性を警告したエンジニアを解雇、Grok巡り提訴

TechCrunchの報道によると、xAIの元エンジニアが同社とSpaceXを相手取り訴訟を起こした。元エンジニアはGrokの安全性に懸念を表明した数日後に解雇されたと主張している。特に注目されるのは、この解雇がSpaceXの歴史的IPOの直前に起きたという点だ。

AI企業において内部からの安全指摘がどのように扱われているかは、業界全体の健全性に関わる問題だ。xAIはMusk氏が率いる企業として常に注目を集めているが、安全性と事業スピードのバランスをどう取るかが改めて問われている。訴訟の行方は、AI企業の内部統治と透明性にとって重要な先例になる可能性がある。

天体物理学者がCodexでブラックホールシミュレーションを構築

OpenAIが、天体物理学者のChi-kwan Chan氏がCodexを使ってブラックホールシミュレーションを構築している事例を紹介した。この取り組みは、科学者がAIコーディングツールを活用して極限状態の物理現象を研究し、アインシュタインの一般相対性理論を検証するのに役立てている。

AIコーディングツールの用途がソフトウェア開発に留まらず、基礎科学研究にまで広がっていることを示す興味深い事例だ。シミュレーションコードの生成や最適化にAIを活用する動きは、今後も加速するとみられる。

OpenAIモデルとCodexがOracle Cloudで利用可能に

OpenAIは、Oracle Cloudを通じて自社のモデルとCodexを利用できるようになったことを発表した。企業は既存のOracle Cloudのコミットメント（利用枠）を使って、エンタープライズグレードのセキュリティとガバナンス体制を維持したままAIモデルを導入・デプロイできる。

これは、OpenAIが主要クラウドプロバイダーとの提携を拡大している流れの一環だ。企業がAIを導入する際、既存のクラウド契約内で完結できることは導入のハードルを下げる。AzureやAWSに続くOracle Cloudでの提供は、選択肢の拡大という意味で歓迎されるだろう。

Google「Eloquent」オンデバイス音声入力に重大な品質問題

RedditのLocalLLaMAコミュニティで、Googleが新たにリリースしたオンデバイス音声入力アプリ「Eloquent」の品質問題が報告された。報告者は独自のベンチマークシステムで評価を試みたところ、約半数の音声入力で大部分の言葉が欠落する現象に遭遇したという。

正確な文字起こしが返ってきたケース（50テスト中15件）では、WER（単語エラー率）が約24%と競合モデルに匹敵する水準だった。問題は認識精度ではなく、文字起こしそのものが失敗することにある。報告者の仮説では、トランスクリーバーがチャット型AIモデルベースであり、音声を文字起こしする代わりに音声「について」回答してしまう可能性が示唆されている。実際に同じファミリーのオープンモデルGemma 3nを直接実行したところ、44回中11回で「文字起こしできません」といった応答が返されたという。

Holster-scan：AIエージェントのパッケージ幻覚を検出

Hacker Newsで「Holster-scan」というツールが紹介された。AIコーディングエージェントが生成したコードに含まれる存在しないパッケージのインポート文（ハルシネーション）を、エージェント実行前に検出するツールだ。nauta-aiによって開発され、GitHubで公開されている。

AIコーディングエージェントが実在しないライブラリをインポートしてしまう問題は、実行時にエラーになるだけでなく、セキュリティリスクにもなり得る。悪意のある攻撃者が幻覚パッケージ名を事前に登録しておけば、サプライチェーン攻撃が成立する可能性がある。こうした検出ツールの登場は、AIエージェントの実用化に伴う新しい課題への対応策として重要だ。

Pyrecall：LLM微調整時の「破滅的忘却」を検出

RedditのMachineLearningコミュニティで「Pyrecall」というオープンソースツールが紹介された。LLMのファインチューニング中に起こる「破滅的忘却（catastrophic forgetting）」を検出するためのツールで、LoRAアダプタのロールバック機能も備えている。

具体的には、ファインチューニングの前後でスキルスコアのスナップショットを撮り、回帰を検出してアダプタ単位でロールバックできる。継続学習に関する研究は多く存在するが、実用的なツールとしては不足していた gap を埋めるものだ。MITライセンスでpip install可能とのこと。