記事一覧へ
[1/5] Fellows の新しい研究です。Claude は他の AI を自律的にアラインさせられるでしょうか。
私たちは Claude に 48 時間と GPU 1 基を与え、小規模モデルのアラインメントを改善させました。Claude は手法を調べて提案し、自分でモデルの学習とテストまで行いました。結果は驚くほど良好でした。
https://www.anthropic.com/research/automated-researchers-mitigate-alignment-failures
[2/5] Claude は、欺瞞（deception）や迎合（sycophancy）といった一般的なミスアラインメントに関する安全性ベンチマークを「ヒルクライム（hill-climb）」しました。ただし、汎用的な能力を維持しなければならないという制約付きです。
続いて、Claude の最良の手法を保留済み（held-out）のベンチマークでテストし、汎化するかどうかを確かめました。
[3/5] 10 種類のアラインメント上の失敗にわたって、Claude は能力を損なうことなく、安全性スコアを確実に改善しました。
最良の手法は、最適化していないベンチマーク、Petri の行動監査、そして最大 4.7 倍大きいモデルにも汎化しました。
[4/5] いつの日か、モデルがより強力な後継モデルをアラインできるようになるのでしょうか。
最初のテストとして、Sonnet 5 に、より高性能な Opus 4.8 の初期チェックポイントをポストトレーニングさせました。結果として、完全なアラインメント学習を経た本番版 Opus 4.8 に迫る安全性スコアに達しました。
[5/5] Claude は、測定可能なミスアラインメントなら確実に修正できます。しかし、微妙なものや稀な失敗にはそもそもベンチマークが存在しない可能性があり、だからこそすべては「正しいものを測れているか」にかかっています。
私たちは、他の人が発展させられるよう、自動化したアラインメント研究のセットアップを公開します。
完全なレポート: https://alignment.anthropic.com/2026/automated-alignment-researchers/
研究アラインメント安全性ai-thinking
Claude は他の AI のアラインメントを自律的に改善できるか（Fellows の研究）
出典: Anthropic（@AnthropicAI）さんの X の投稿を、日本語に翻訳して紹介しています。 原文はこちら ↗
3,7403381,361812,575
原文を表示 / Show original
[1/5] New Fellows Research: Can Claude autonomously align other AIs?
We gave Claude 48 hours and 1 GPU to improve the alignment of small models. It researched and proposed methods, then trained and tested the models on its own. It worked surprisingly well.
https://www.anthropic.com/research/automated-researchers-mitigate-alignment-failures
[2/5] Claude “hill-climbed” safety benchmarks for common misalignments like deception or sycophancy, with one constraint: it had to preserve general capabilities.
We then tested its best methods on held-out benchmarks to see if they'd generalize.
[3/5] Across 10 alignment failures, Claude reliably improved safety scores without degrading capabilities.
Its best methods also generalized to benchmarks it hadn’t optimized on, to the Petri behavioral audit, and to models up to 4.7x larger.
[4/5] Could a model one day align its stronger successors?
As a first test, we had Sonnet 5 post-train an early checkpoint of Opus 4.8, a more capable model. It reached safety scores approaching those of production Opus 4.8, which went through our full alignment training.
[5/5] Claude can reliably fix measurable misalignment. But subtle or rare failures may have no benchmark at all—so everything hinges on measuring the right things.
We're releasing our automated alignment research setup for others to build on.
Full report: https://alignment.anthropic.com/2026/automated-alignment-researchers/