記事一覧へ
Anthropic の新しい研究です。大規模言語モデルの証明可能な推論（provable inference）に関する進展を紹介します。
ここで FlashProve を紹介します。確立された暗号技術を土台に、FlashProve は、ある応答が特定の AI モデルから返されたものかどうかを、開発者が検証できるようにします。この目的の従来のオープンソース手法と比べて、大幅に効率的です。
こうした証明にはさまざまな用途があります。たとえば、攻撃者がチャットを乗っ取りにくくしたり、安全性評価者が、テストしているモデルが顧客に提供されているモデルと同一であることを検証できるようにしたりできます。
詳しい解説はこちらをご覧ください: https://www.anthropic.com/research/provable-inference
provable inference のさらなる進展は、AI の導入に対する信頼を高めるうえで重要な部分になると考えられます。そのため、FlashProve のコードをオープンソース化します: https://github.com/anthropics/FlashProve
共同研究者の皆さまに感謝します: Alessandro Chiesa、@GiacomoFenzi、@gwberg95、@miranda__christ、Rahul Dalal (http://rdalal.github.io)、Ben Mayer (@transmissions11)。
FlashProve研究Anthropicsecurity
AI モデルの応答を検証できる FlashProve を公開、コードもオープンソース化
出典: Anthropic（@AnthropicAI）さんの X の投稿を、日本語に翻訳して紹介しています。 原文はこちら ↗
5,2375402,206692,009
原文を表示 / Show original
New Anthropic research: progress on provable inference for large language models.
Here, we introduce FlashProve. Building on established cryptographic techniques, FlashProve allows developers to verify whether a given response came from a given AI model. It’s substantially more efficient than prior open-source methods for doing so.
These proofs have a range of applications. They can, for instance, make it harder for attackers to hijack a chat, or enable safety evaluators to verify that the model they’re testing is the same one being served to customers.
For our full write-up, see here: https://www.anthropic.com/research/provable-inference
Further progress in provable inference will likely be an important part of improving trust in AI deployment. To that end, we're open-sourcing FlashProve’s code, here: https://github.com/anthropics/FlashProve
We’re grateful to our collaborators: Alessandro Chiesa, @GiacomoFenzi, @gwberg95, @miranda__christ, Rahul Dalal (http://rdalal.github.io) and Ben Mayer (@transmissions11).