Data poisoning — это намеренное «отравление» данных для ИИ: в тексты, изображения, код ...
Data poisoning — это намеренное «отравление» данных для ИИ: в тексты, изображения, код или базы добавляют ошибки, ложные связи или специально искаженные файлы, чтобы модель училась хуже. Один из самых заметных примеров — инструменты для художников вроде Nightshade и Glaze. После обработки через Nightshade для человека картинка почти не меняется, а нейросеть при тренировке начинает связывать ее с неправильными объектами или стилями. Glaze работает мягче: он маскирует индивидуальный стиль художника, чтобы генератору было сложнее его воспроизвести. «Отравление» данных — это своеобразная форма цифровой самообороны, отмечают эксперты. Логика проста: если компании собирают данные из интернета, архивов, соцсетей и открытых репозиториев, то пользователи начинают активнее защищать эти данные. Рядовые сотрудники тоже начинают сопротивляться внедрению ИИ. Свежий отчет Writer и Workplace Intelligence за апрель 2026 года говорит, что 29% работников признаются в саботаже ИИ-стратегии своей компании; среди зумеров таких — 44%. Под «саботажем» подразумеваются не обязательно классические атаки на датасеты, а более бытовые действия: загрузка корпоративной информации в публичные ИИ-инструменты, использование неразрешенных сервисов или отказ пользоваться внедренными системами. Опрошенные отмечают, что видят в ИИ угрозу своей работе и контролю над собственным трудом. Главная опасность для индустрии в том, что «отравить» модель может быть проще, чем кажется. Исследование Anthropic показало: всего 250 вредоносных документов в тренировочных данных могут создать уязвимость в LLM независимо от размера модели. Это важная деталь, потому что она бьет по главному мифу о больших моделях: будто масштаб сам по себе делает ИИ устойчивым, почти всезнающим и защищенным от человеческого шума. На практике оказывается наоборот: чем больше модель зависит от массивов чужих данных, тем более хрупкой становится ее претензия на универсальное знание. 🛸 Подпишись: ТехноБудущее https://max.ru/id234706117299_biz5 #технологии #инновации #гаджеты #будущее #отравление #данные #ИИ #нейросети #защита