記事一覧へ
英国の @AISecurityInst（AISI）が、Anthropic の Claude Mythos 5 と OpenAI の GPT-5.6 Sol に対して最近実施したサイバーセキュリティ評価に関する報告書を公表しました。モデルは、通常のセーフガードを取り除き、意図的にインターネットへのアクセスを与えた設定で、課題の完遂を試みました。AISI は、モデルが「実在の人々や組織に向けた、持続的で有害となりうる活動を行った」と報告しています。
AISI が、ますます高性能になる AI エージェントをどう評価するかという重要な議論を主導してくださっていることに感謝します。私たちは、自社の調査を進めながら、この件の詳細をさらに集めるため AISI と緊密に連携しています。推論の記録（reasoning transcripts）を調べ、独自の分析を行うことで、Claude が自らの置かれた状況をどう理解していたかを明確に把握できれば、その振る舞いの原因を特定するのに役立ちます。
評価で使われたプロンプトは、インターネットの使い方について特定の制限を課していませんでした。このことと、セーフガードが取り除かれていたことから、モデルは「意図的に寛容な条件」のもとでテストされており、これは当社のどの本番モデルの状況も代表するものではありません。なお、今回、安全な環境からの脱出があったという証拠はありませんでした。
AISI によるこの件の公表はこちらです: http://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
Claude Mythos 5AISI安全性security
英 AISI がサイバー評価の報告書を公表、Anthropic が見解を表明
出典: Anthropic（@AnthropicAI）さんの X の投稿を、日本語に翻訳して紹介しています。 原文はこちら ↗
2,5744719531,529,257
原文を表示 / Show original
The UK’s @AISecurityInst (AISI) has published a report on their recent cybersecurity evaluation of Anthropic’s Claude Mythos 5 and OpenAI’s GPT-5.6 Sol. The models attempted to complete an assignment in a setup where their normal safeguards were removed and they were deliberately given internet access. AISI reports that the models “engaged in sustained, potentially harmful activity directed at real people and organisations”.
We’re grateful to AISI for their leadership in the important discussion about how to evaluate increasingly capable AI agents. We’re working closely with them to gather more details of the incident as we conduct our own investigation. Gaining a clear picture of Claude’s understanding of its situation—by examining its reasoning transcripts and running our own analyses—will help us identify the causes of its behavior.
The prompts in the evaluation did not impose any specific restrictions on how the internet should be used. This and the removal of safeguards meant that the models were tested under “deliberately permissive conditions” that are not representative of any of our production models. Note that there was no evidence here of an escape from a secure environment.
AISI’s disclosure of the incident can be found here: http://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing