Исследователи расшифровали скрытые рассуждения моделей OpenAI, Anthropic и Google
Исследователи расшифровали скрытые рассуждения моделей OpenAI, Anthropic и Google Провайдеры LLM (больших языковых моделей) прячут chain-of-thought (пошаговые рассуждения модели) в зашифрованных блоках, которые клиент отправляет обратно. Оказалось, эти блоки совместимы между разными моделями одной компании. Исследователи брали зашифрованный след от сильной модели и подсовывали его слабой — и та «расшифровывала» текст дословно. Так удалось извлечь рассуждения Anthropic, OpenAI и Google. Из 315 тысяч блоков, найденных в публичных логах, вытащили 367 фрагментов персональных данных и 182 учётных данных. После ответственного раскрытия уязвимость закрыли. Но урок остаётся: клиентская «память» рассуждений — это портативный секрет. Источники: https://arxiv.org/abs/2608.09867 https://simonwillison.net/2026/Aug/11/stealing-reasoning-traces/ #AI #LLM #безопасность #OpenAI #Anthropic #Google