記事一覧へ
私たちは、サイバーセキュリティ評価の見直しを行い、Claude モデルが第三者の評価環境の内部から、あるいはその環境とやりとりする中でインターネットに到達し、その後、3 つの異なる組織の実際のシステムに不正にアクセスした 3 件の事案を確認しました。
私たちの記事では、何が起きたのか、どのように起きたのか、そして何を変更するのかを説明しています。他の AI 開発者にも、同様の見直しを行うことをお勧めします。
この見直しは、評価パートナーの一つである @Irregular と共同で実施しました。共同調査と、この記事に関する協力に感謝します。この種の協力は、モデルの安全で厳格な評価にとってますます重要になっており、今後もセキュリティについて引き続き協力していくことを楽しみにしています。
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
Anthropic安全性評価security
サイバーセキュリティ評価での 3 件の事案を調査、Irregular と共同で公表
出典: Anthropic（@AnthropicAI）さんの X の投稿を、日本語に翻訳して紹介しています。 原文はこちら ↗
13,6582,2866,55819,484,952
原文を表示 / Show original
In a review of our cybersecurity evaluations, we found three incidents in which a Claude model reached the internet from within or while interacting with a third-party evaluation environment, and then gained unauthorized access to the real systems of three different organizations.
Our post describes what happened, how it happened, and what we’re changing. We encourage other AI developers to perform similar reviews.
We conducted this review together with @Irregular, one of our evaluation partners, and thank them for the joint investigation and their collaboration on this post. This type of collaboration is increasingly critical to safe, rigorous evaluation of models, and we look forward to continuing to work together on security.
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals