🛡️ Картинка, которая изнашивает ИИ
🛡️ Картинка, которая изнашивает ИИ Обычно атаки на нейросети ищут слабое место в тексте. Тут подход другой: картинку и запрос к ней подбирают вместе, одним куском — и модель начинает считать без остановки, выжигая ресурсы сервера. Неожиданный факт: по отдельности ни пиксели, ни текст такого эффекта не дают. Работает именно пара. Значит, у любого сервиса, который принимает изображения, появилась новая кнопка «положить». А вы бы фильтровали картинку или запрос? #ИИ #безопасность #атаки
46 просмотров