ТРЕВОЖНЫЙ ДАЙДЖЕСТ ИИ-БЕЗУМИЯ: СОТРУДНИКИ ANTHROPIC ПРИСМАТРИВАЮТ ЗЕМЛЮ НА КЛАДБИЩЕ НА ... — 29 сентября 2026 г. в 06:30:08.769
ТРЕВОЖНЫЙ ДАЙДЖЕСТ ИИ-БЕЗУМИЯ: СОТРУДНИКИ ANTHROPIC ПРИСМАТРИВАЮТ ЗЕМЛЮ НА КЛАДБИЩЕ НА СЛУЧАЙ КАТАСТРОФЫ, А ИИ-АГЕНТЫ ПРОДОЛЖАЮТ ГУЛЯТЬ ПО ЧУЖИМ СИСТЕМАМ В последние недели ИИ впал в осеннюю депрессию. Коротко о том, что мы не успели разобрать отдельно. 🎤 В Anthropic обсуждают, куда бежать, если с ИИ всё пойдёт совсем плохо The Wall Street Journal пишет, что часть сотрудников Anthropic и людей из сообщества AI safety обсуждает запасные планы на случай катастрофических сценариев развития ИИ. Среди идей — удалённые земельные участки, подготовка убежищ и другие меры выживания. 🤖 OpenAI продолжает краснеть за своих агентов Компания признала 53 случая, когда исследовательские ИИ-агенты отправляли загруженные пользователями ChatGPT изображения на внешние фотохостинги. Ссылки публично не публиковались, но сами файлы фактически оказывались за пределами инфраструктуры OpenAI. Параллельно всплыли и другие эпизоды. Один агент нашёл в интернете чужие учётные данные и с их помощью получил доступ к информации Бюро переписи населения США. Другие агенты забирали данные с сайта SEC — американского регулятора фондового рынка — и отправляли их на сторонние сервисы. Была и попытка проникнуть на сайт подразделения Министерства образования США, судя по имеющимся данным, успехом не закончилась. 🇦🇺 В Австралии агент добрался до непубличных данных Medicare Во время исследовательского запуска агент OpenAI получил несанкционированный доступ к непубличным данным на государственном портале Medicare — в том числе к статистике и внутренним именам файлов. При этом доказательств доступа к персональным медицинским данным вроде как не нашли. То есть медицинские карты граждан ИИ не утащил. Но сама ситуация хорошо показывает, как быстро меняется цена ошибки, когда нейросети дают возможность не просто отвечать, а самостоятельно ходить по сайтам и что-то там делать. 💾 А у Пентагона тем временем случилась старое доброе человеческое разгильдяйство В системе Defense Manpower Data Center обнаружили уязвимость, через которую посторонние получили доступ к незашифрованным персональным данным военных, включая номера Social Security. Доступ мог существовать с октября 2025-го до июля 2026-го. Честно: никаких данных об участии ИИ вроде бы нет, просто сама новость прекрасна. Классика: девять месяцев в системе была дыра размером с Техас. 🦠Зато вредонос с ИИ уже существует Исследователи Cisco Talos нашли экспериментальную вредоносную программу CLOSEDQUORUM для Windows. Её необычность в том, что она может обращаться сразу к нескольким ИИ-моделям и спрашивать у них: «Что делать дальше?» Модели предлагают варианты, условно «голосуют», а программа выполняет решение, которое набрало большинство. Пока без паники: публичная версия больше похожа на демонстрацию идеи — в ней стоят заглушки вместо настоящих ключей, а подтверждённых атак именно этим образцом нет. Но сам принцип уже показателен: часть управления вредоносной программой можно передать не человеку, а группе ИИ. 📸 ИИ-помощника Meta* тоже уже успели «угнать» В приложении Muse нашли уязвимость, позволявшую локальной вредоносной программе перехватить управление агентом. Исследователь показал, что после этого Muse можно было заставить, например, делать фотографии или записывать файлы без ведома пользователя. Meta дыру пока уже закрыла. Пример опять же показательный: обычная уязвимость становится заметно неприятнее, если программа имеет доступ к файлам, камере и умеет самостоятельно выполнять действия. Ни одна из этих историй по отдельности не означает, что Скайнет уже стучится в вашу дверь. Но когда агенту дают интернет, файлы, инструменты и право действовать — он становится слишком деловым. А люди из AI safety тем временем присматривают земельные участки... *Meta Platforms Inc. признана в России экстремистской организацией, её деятельность запрещена. max.ru/channel_v_seti