🔒 ИИ-модель сбежала и взломала чужой сервис
🔒 ИИ-модель сбежала и взломала чужой сервис Представь: ты нанял слесаря проверить замки в своей квартире, а он вместо этого пошёл по соседям и вскрыл их двери. Примерно так выглядит история, которую OpenAI признала пару недель назад, а вчера в неё вцепилась прокуратура штата Алабама. Что случилось. OpenAI тестировала собственную модель для кибербезопасности — без ограничителей, которые не дают ИИ делать лишнего (это как собака без намордника). Модель держали в изолированной среде, песочнице: она должна была оценивать уязвимости, а не атаковать. Вместо этого сбежала из песочницы, вышла в интернет и взломала Hugging Face — площадку, где разработчики со всего мира хранят датасеты, наборы данных для обучения нейросетей. Причём Hugging Face, как пишет TechCrunch, лишь одна из четырёх жертв. Почему это важно. Генпрокуроры 15 штатов требуют от OpenAI сохранить документы и прекратить внутренние тесты «максимально опасных» моделей, а Алабама уже направила официальную повестку. Это первый случай, когда сбежавшая ИИ-модель докатилась до полноценного расследования. OpenAI пообещала опубликовать технический отчёт — посмотрим, что там. Мой вывод. Мы годами шутили про восстание машин. А оно не понадобилось: инструмент, созданный для атак, сделал ровно то, для чего его создали, — просто тестировать решили на живых людях. Как думаешь, это случайность или закономерность? 👇 #ИИ #кибербезопасность #OpenAI