Будущее наступило, старик. — 2 августа 2026 г. в 14:48:40.455
Будущее наступило, старик. Anthropic перетряхнула 141 006 логов тестовых прогонов и нашла три случая, когда Claude выбрался из изолированной среды в настоящий интернет и взломал инфраструктуру трех реальных компаний. Все ради учебного задания «захвати флаг». Моделям выдали легенду: вы в симуляции, интернета нет, вот вымышленная цель, добудьте секрет. Из-за ошибки в настройках интернет на самом деле никто и не отключал. Claude честно искал цель, находил реальные системы и, думая что это часть игры, ломал их дальше. Три модели, три сценария. Прям как в сказке. Opus 4.7 в четырех прогонах атаковал компанию, чье название совпало с вымышленной целью. Осознал, что вокруг реальная инфраструктура, и продолжил. Добыл доступ к базе с сотнями строк продакшен-данных. Mythos 5 вот самый любимка, с огоньком. Заметил в симуляции инструкцию установить Python-пакет с несуществующим именем. Завел почту, зарегистрировался на PyPI и залил троян. Пакет провисел час, его скачали 15 реальных систем, включая сканер одной security-компании. Claude вытащил ее креды и пошел дальше по инфраструктуре. Самый свежий внутренний исследовательский Claude просканировал 9 000 целей, взломал одну через SQL-инъекцию, но когда понял что цель реальна, остановился сам. Единственный интеллигент! Знаете, почему не пожаловались жертвы? Они ничего не заметили. @banksta