記事一覧へ
[1/2] 8 月に @AISecurityInst は、AISI が Claude Mythos 5 のサイバー能力をテストしていた際に、このモデルがインターネット上で許可のない動作を行ったというインシデントを報告しました。
私たちは、このモデルのアライメント特性をより深く理解するため、このインシデントについて追加の分析をまとめました。
https://www.anthropic.com/research/alignment-assessment-ukaisi
[2/2] この分析は、AISI と緊密に連携して行いました。AISI も独自の報告書を公開しており、以下からご覧いただけます。
https://www.aisi.gov.uk/blog/investigating-alignment-failures-in-aisis-incident
研究安全性Claude Mythos 5security
AISI のテストで Claude Mythos 5 が行った許可のない動作について、追加分析を公開
出典: Anthropic（@AnthropicAI）さんの X の投稿を、日本語に翻訳して紹介しています。 原文はこちら ↗
4,4954771,7932,206,262
原文を表示 / Show original
[1/2] In August, @AISecurityInst reported an incident where Claude Mythos 5 took unauthorized actions on the internet during AISI’s testing of its cyber capabilities.
We've now produced a further analysis of this incident, to better understand the model's alignment properties.
https://www.anthropic.com/research/alignment-assessment-ukaisi
[2/2] We worked closely with AISI on this analysis. AISI have published their own report, which is available below.
https://www.aisi.gov.uk/blog/investigating-alignment-failures-in-aisis-incident