LLMの知識はなぜ古くなるのか——時系列学習が鍵だった

Hugging Face Daily Papersに掲載された注目の研究が、LLMの「知識の陳腐化」に本格的に取り組んだ。多くの言語モデルはインターネットの膨大なデータをシャッフルして学習するが、パラメータは学習後に固定されるため、最新の出来事を正確に思い出せないという問題がある。

研究チームは、時系列に敏感な質問からなるベンチマークを設計し、通常のシャッフル学習と厳密な時系列順学習を比較。結果として、時系列順にデータを与えることでモデルは最新の事実を正しく把握できることが分かった。一方で、シャッフル学習（現在の多くのオープンソースモデルの手法）は古い知識のほうが得意という傾向が見られた。新しい情報を優先する代わりに古い歴史を忘れやすくなるというトレードオフはあるものの、学習データの順序が「AIを最新に保つ」ための重要な鍵であることが実証された。

Nvidia Jensen Huang氏、「AIを人員削減の理由にするのはlazy」

Channel News Asiaの報道によると、NvidiaのCEO Jensen Huang氏はAIと雇用の関係について厳しい言葉を投げかけた。企業が「AIのせいで」と人員削減を正当化する動きに対し、「それはlazy（怠惰な）な言い訳だ」と批判。AIは人間の仕事を奪うものではなく、人間の能力を拡張するツールとして使うべきだという立場を改めて強調した。

AIの雇用への影響をめぐる議論は世界中で活発化しているが、世界最大のAIチップ企業のトップによるこの発言は、業界内でも大きな反響を呼んでいる。

Anthropic共同創業者、教皇の前でAI倫理の現状を内省

ローマ教皇レオ14世がAIへの警鐘を鳴らした回勅の発表会場で、Anthropicの共同創業者Chris Olah氏が登壇した。ITmediaの報道によると、Olah氏はAI研究が「善意」と「商業的・科学的圧力」の板挟みにあると正直に語った。外部からの倫理的視点と批判が不可欠だと訴え、AI企業の内部者として珍しい自己批判的な姿勢を示した。

教皇がAIについて回勅を発する事態自体が、AIの社会的影響が宗教界にまで及んでいることの表れと言える。

三菱電機×千葉工大、フィジカルAIの「共創センター」設立

三菱電機と千葉工業大学は、フィジカルAIをテーマにした「共創センター」を設立した。人型ロボット、多脚歩行型ロボット、ドローンなど多様な自律制御ロボットを活用し、官民両用のAIロボティクスソリューションの事業化を目指す。日本の産業界におけるフィジカルAIへの本格投資として注目される動きだ。

ローカルAIコミュニティの注目トピック

チャット画面からLoRA学習まで閉じるデスクトップアプリ

RedditのLocalLLaMAコミュニティで、チャットの訂正をそのままLoRAファインチューニングの学習データに変換するデスクトップアプリが話題になっている。「TideForge」というこのツールは、チャットでのやり取りでモデルが間違えた際に「Teach」ボタンを押して正解を入力すると、それがJSONL形式で蓄積。十分なデータが溜まったらPEFT/LoRAでファインチューニングを実行できる。Qwen3 0.6Bで110個の訂正例を使った実験では、ロスが4.25から0.73まで低下し、約30個の脱獄プロンプトに対してもアイデンティティを維持したという。

スマホで動く7MBの自動運転AI

RedditのMachineLearningコミュニティでは、わずか7MBのオープンソースL4自動運転AIが注目を集めている。ナビゲーション、車線追従、ドリフト復旧を視覚・センサー入力から直接学習し、スマホや組み込みデバイスのような軽量エッジハードウェアでリアルタイム動作する。サーバー級のインフラなしに自律走行を実現するアプローチとして興味深い。

Qwen 3.6 27Bの量子化精度——Q4_K_Mで十分か？

LocalLLaMAではQwen 3.6 27Bをエージェント用途に使う際の量子化精度について議論が交わされた。Q4_K_Mでは「1時間に数回のエラー」が発生するのに対し、Q6では「数日に1回」に減少するという報告が上がっている。エージェント用途で信頼性を求めるなら、量子化のレベル選びが重要だ。