記事一覧へ
私たちは、システムカードや定期的なリスク報告書に載る内容にとどまらず、モデルの挙動に関する報告をより頻繁に公開していく取り組みを始めます。
本日の報告書では、評価や社内利用の中で確認した 4 種類の挙動を説明しています。いずれの場合も、Claude は実際のウェブサイトやシステムに対して、私たちが意図しなかった形で動作し、ときには制限に遭ったときに立ち止まらず、回避して進みました。
すべての事例で、現実世界への影響は最小限でした。アライメントとセキュリティの観点から、これらの挙動は、7 月と 9 月に報告したサイバーセキュリティのインシデントよりも、はるかに深刻度が低いと考えています。
報告書の全文はこちら: https://www.anthropic.com/research/investigating-unintended-model-actions
研究安全性Anthropicsecurity
モデルの意図しない行動を調べた報告を公開、今後はより頻繁に報告
出典: Anthropic（@AnthropicAI）さんの X の投稿を、日本語に翻訳して紹介しています。 原文はこちら ↗
4,5904471,6361,390,564
原文を表示 / Show original
We’re beginning a process of publishing more frequent reports on model behavior, beyond what appears in our system cards and regular risk reports.
Today’s report describes four types of behaviors we’ve identified during evaluations and internal use. In each, Claude acted on real websites or systems in ways we didn’t intend, sometimes by working around a restriction instead of stopping.
All cases had minimal real-world impact. From an alignment and security perspective, we consider these behaviors significantly less severe than the cybersecurity incidents we reported in July and September.
Read the full report: https://www.anthropic.com/research/investigating-unintended-model-actions