Рубашка сбивает с толку камеры с ИИ — 1 сентября 2026 г. в 08:41:43.825
Рубашка сбивает с толку камеры с ИИ Берлинский художник Саймон Векерт, который в 2020 году троллил Google Maps: медленно возил тележку с 99 смартфонами по мосту, заставив гугл поверить в гигантскую автомобильную пробку на пустой улице, — вернулся с новым перформансом. На этот раз он взялся за видеосистемы городского слежения с ИИ и представил гавайскую рубашку, которая ослепляет детекторы компьютерного зрения. Узор на рубашке представляет собой эпилептическое месиво из ядовито-розовых, оранжевых и салатовых фигур. Для любого нормального человека смотрится как пьяный дядя на деревенской свадьбе. Зато для камер слежения с ИИ ты мгновенно превращаешься в ничто. Векерт проверил своё детище на улицах Берлина, где полиция как раз начала тестировать поведенческое видеонаблюдение с ИИ. На записях камеры система обводит рамками всех прохожих с пометкой «человек», а Векерта в гавайке алгоритм игнорирует. Как это работает Нейросети для распознавания объектов (в эксперименте Векерта использовалась популярная архитектура YOLO) вообще не понимают, что такое «человек». Для машинного зрения человек просто набор пикселей. При распознавании человека первые слои нейросети вычисляют градиенты яркости, простые грани и текстуры. Следующие слои собирают из них комбинации: пропорции туловища, плечи, вертикальный силуэт, соотношение длины рук, контур головы и т. п. Если математический вектор на выходе сходится со статистикой из миллионов обучающих картинок и преодолевает заданный порог (например 0,5), то алгоритм выдает вердикт: «здесь человек» рисует рамку. Чтобы получить узор, который ослепляет компьютерное зрение, автор использовал специальный генеративный алгоритм: 1. Сначала алгоритм создаёт базовый абстрактный рисунок; 2. Изображение накладывается на модель человека и скармливается детектору YOLO; 3. Нейросеть замеряет, насколько сильно упал показатель уверенности; 4 С помощью метода обратного распространения ошибки пиксели узора сдвигаются ровно в ту сторону, которая максимально дезориентирует классификатор; 5 Цикл повторяется тысячи раз, пока уверенность системы не схлопнется до нуля. В результате получился шум, адаптированный под человеческое восприятие как яркий гавайский принт. Ядовитые цвета на нем зашкаливают и перегружают первые слои нейросети, а хаотичный геометрический орнамент рвет контур туловища так, что нейросеть видит отдельно конечности но не может объединить их в единую фигуру. Проект, конечно, шикарный, но если система использует не просто обнаружение пешеходов, а еще и модули распознавания лиц, то рубашка не поможет - лицо-то открыто. Да и такая слепота лечится довольно просто: стоит разрабам дообучить нейросеть на нескольких сотнях фотографий людей в такой рубашке - и сеть моментально научится определять владельца такого принта ещё быстрее, чем обычного прохожего.