ИИ-сапожник без ИБ-сапог
ИИ-сапожник без ИБ-сапог Стартап Cathedral, которому несколько месяцев, за 12 часов работы ИИ-агентов нашёл ходы во внутренние системы Anthropic через уязвимости в стороннем софте для администрирования и продаж. По черновику отчёта, исследователи добрались до транскриптов встреч, зарплат и офферов, а также переписки в Slack о передовых моделях. Anthropic подтверждает доступ к «ограниченному набору» систем продаж, HR и IT, контактам части клиентов и партнёров и базовым учёткам. Промпты, ответы Claude, исходники и веса, по словам компании, не затронуты. Тест шёл в рамках bug bounty. Anthropic утверждает, что её мониторинг заметил часть действий Cathedral ещё до отчёта, следов посторонних нет, а исследователи раскрыли не всю свою активность, нарушив правила программы, и преувеличили последствия для нацбезопасности. Cathedral говорит, что трогала данные по минимуму. Компанию основали четыре выходца из DOGE, включая бывшего CDO Пентагона Гэвина Клигера. При оценке $1,4 млрд она привлекла $160 млн от a16z и Sequoia и уже работает с тремя федеральными ведомствами. Чиновник Белого дома, читавший черновик, сравнил данные Anthropic с почти оружейным ядерным материалом и заключил: раз справилась «кучка ребят», китайцы где-то рядом. Кучка ребят с оценкой $1,4 млрд. В марте у Anthropic из-за ошибки в настройках CMS в открытом доступе оказались около 3000 неопубликованных материалов, включая черновик анонса Mythos. В апреле, в день анонса, группа из закрытого Discord-сервера добралась до Mythos Preview в среде стороннего подрядчика, просто угадав адрес модели по тому, как Anthropic называла предыдущие. Один из участников работал у подрядчика Anthropic. В сентябре Hacktron рассказала, как с помощью Claude Opus 5 меньше чем за 72 часа прошла через форум OpenAI к аккаунтам сотрудников и внутреннему репозиторию и получила за это $6500. Алекс Стамос, CISO Cognition, считает, что находки Cathedral показывают дыру в управлении внешними поставщиками. У каждой стороны своя выгода: Cathedral получила визитку для госзаказчиков, Anthropic устраивает формулировка «ограниченный набор». Компания, создавшая «кибероружие», которое сама побоялась выпускать в открытый доступ, на собственном примере показывает: опыт в ИБ (контроль подрядчиков, настройка CMS, неугадываемые адреса) стоит дорого, какими бы мощными ни были передовые модели. @antiinfosec