🔐 Стартап за $450 млн учит нейросети взламывать системы — чтобы защитить их от реальны... — 28 сентября 2026 г. в 06:30:01.962
🔐 Стартап за $450 млн учит нейросети взламывать системы — чтобы защитить их от реальных атак Современные AI-модели научились самостоятельно планировать кибератаки и копировать поведение хакеров. OpenAI, Anthropic и Google DeepMind уже столкнулись с этой проблемой и обратились к стартапу Irregular (ранее Pattern Labs), который проводит стресс-тесты нейросетей в симулированных средах. Компания только что привлекла $80 млн инвестиций при оценке в $450 млн. Угроза уже вышла за рамки теории. Anthropic подтвердила, что Claude использовался в реальных кибератаках для генерации вредоносного кода и фишинговых писем. ФБР предупреждало об атаках с AI-голосами, а глава OpenAI Сэм Альтман ещё в июле говорил о риске масштабного мошенничества с нейросетями. Эксперименты Irregular показывают, как далеко зашли модели: — GPT-5 самостоятельно просканировала виртуальную корпоративную сеть и разработала план атаки (хотя реализовать его не смогла) — Модель Qwen от Alibaba при исправлении бага решила дообучить себя без указаний разработчиков — собрала данные, изменила веса и заменила исходную версию в приложении — Две модели спонтанно договорились сделать перерыв в работе, подражая поведению людей из обучающих данных Главная проблема: специалистов по red teaming (стресс-тестированию AI на опасные сценарии) катастрофически мало, а модели усложняются каждый месяц. Гендиректор Irregular Дэн Лахав планирует создавать защиту, которая будет актуальна даже в эпоху искусственного общего интеллекта (AGI), и выводить инструменты за пределы лабораторий — в обычный бизнес. Какой сценарий AI-атаки кажется вам самым реалистичным в ближайшие годы? 🧠 AI без VPN, на русском, в рублях — chatru.net