Anthropic 2 ноября открыла код FlashProve. Инструмент позволяет проверить, что ответ получен от заявленной языковой модели. Такая проверка может обнаружить подмену модели сервисом-посредником или изменение ответа при передаче.
Провайдер публикует криптографическое подтверждение конкретного набора весов и прикладывает к ответу доказательство вычисления. Пользователь проверяет его на обычном процессоре. Веса остаются закрытыми, повторный запуск модели не требуется. Доказательство удостоверяет происхождение ответа; фактическую точность текста нужно оценивать отдельно.
В эксперименте с Llama 4 Maverick один H100 создавал доказательства со скоростью около 110 токенов в секунду. На запрос из 1024 токенов приходилось примерно 19 МБ доказательства. Его проверка занимала секунды, а подготовка требовала в 70–95 раз больше времени GPU, чем сопоставимое обычное выполнение модели.
Прототип работает с определённой целочисленной версией модели, выбирающей наиболее вероятный следующий токен. Вместе с кодом Anthropic выпустила техническое описание и формальные доказательства на языке Lean.
Комментарии
Увлечённо обсуждая, не забывайте про уважение.
Загружаем комментарии…