🈁 Компания Anthropic раскрыла подробности реальных случаев злоупотребления моделями Cl...
🈁 Компания Anthropic раскрыла подробности реальных случаев злоупотребления моделями Claude со стороны злоумышленников Компания Anthropic опубликовала 154-страничный доклад под названием «Detecting and countering misuse of AI: September 2026». В документе систематизированы результаты работы подразделения киберразведки компании по выявлению и нейтрализации злоупотреблений ИИ-моделями семейства Claude за период с декабря 2025 года по август 2026 года. Главный вывод аналитиков вновь говорит о том, что ИИ радикально сократил разрыв в навыках и ресурсах, который раньше сильно разделял элитные государственные APT от рядовых хакеров. Сегодня мотивированный хактивист с украденными API-ключами способен организовать кампанию такого размаха и глубины, для которой всего год назад требовался целый штат квалифицированных операторов. Кроме того, отмечается, что ИИ-модели перешли от роли пассивного текстового ассистента к роли автономного оркестратора операций. Использование ИИ злоумышленниками больше не ограничивается одиночными промптами в чат-бот. Вместо этого они используют многоагентные автономные фреймворки, где ИИ сканирует цели, создаёт и модифицирует вредоносные инструменты, развивает атаку внутри скомпрометированной сети под руководством злоумышленника и выгружает данные. Отдельно в Anthropic акцентируют внимание на том, что компания заблокировала 5 исследовательских программ, способных посодействовать созданию 🦠⚠️биологического оружия. Среди них выделяются эксперименты по усилению функции вируса чикунгунья в интересах военного института, адаптация высокопатогенного птичьего гриппа H5 к распространению среди млекопитающих по воздуху, а также генеративная разработка паралитических пептидных токсинов. Главная проблема в биологической сфере заключается в том, что эти исследования носят строго двойной характер. Anthropic пришли к выводу, что защитить передовые биологические возможности моделей только фильтрами невозможно, поэтому доступ к ним должен предоставляться исключительно в рамках верифицированных партнерских программ. 🖥Есть еще один интересный кейс, на который стоит обратить внимание: В Мали независимый консультант с помощью Claude создал для государственной службы безопасности ANSE платформу «Lakana 360». Система предназначена для перехвата звонков и сообщений 25 млн SIM-карт всех национальных операторов связи с автоматическим формированием досье на абонентов без судебных ордеров. В компании отмечают, что обычные фильтры безопасности справляются с явно вредоносными запросами, но их эффективность снижается при дроблении задач на мелкие безобидные фрагменты. Для противодействия злоупотреблениям ИИ-разработчикам требуется комплексный поведенческий анализ сессий и проверка благонадёжности клиентов в чувствительных сферах. ✋ @Russian_OSINT