РШ

Ринат Шакиров / Нейросети / ChatGPT / Nano Banana / Seedance 2.0

IT и технологии · 4 ноября 2026 г.

Открыть канал в MAX

Anthropic научилась доказывать, какая модель на самом деле написала ответ

Anthropic научилась доказывать, какая модель на самом деле написала ответ Сейчас пользователь не может проверить, какая модель ему ответила. Сервис может тихо подменить дорогую модель на дешевую, а злоумышленник может подправить ответ по дороге. Anthropic выложила в открытый доступ FlashProve, прототип системы, которая закрывает эту дыру с помощью криптографии. Провайдер прикладывает к ответу математическое доказательство того, что текст сгенерировала конкретная модель с конкретными весами. Сначала провайдер публикует короткий отпечаток модели. Он намертво фиксирует веса, но не раскрывает их. Дальше к каждому ответу создается доказательство, и любой человек может проверить его без доступа к самой модели. Проверка занимает около 17 секунд на обычном процессоре. Доказательство весит около 19 МБ, и вытащить из него веса или внутренние расчеты модели нельзя. Систему тестировали на Llama 4 Maverick, модели на 400 миллиардов параметров. Хватило одной видеокарты H100, скорость около 110 токенов в секунду. Прошлые решения были в разы медленнее, например zkLLM выдавал 2.5 токена в секунду на модели всего в 13 миллиардов. Надежность самой схемы Anthropic проверила в Lean. Это специальная программа, которая проверяет математические доказательства без права на ошибку. В чем польза? Регуляторы смогут убедиться, что сервис запускает только одобренные модели. Компании быстро заметят взлом сервера или подмену модели. А пользователь получит подтверждение, что его работу действительно смотрела заявленная модель. Код, формальные доказательства и технический отчет открыты под лицензией Apache 2.0. Веса модели в комплект не входят, их нужно отдельно скачать с Hugging Face. dailyprompts.ru