В ЛЭТИ создали алгоритм для поиска уязвимостей в нейросетях автопилотов
В ЛЭТИ создали алгоритм для поиска уязвимостей в нейросетях автопилотов Учёные СПбГЭТУ «ЛЭТИ» создали алгоритм, который находит уязвимости в нейросетях для автопилотов. Новый подход обманул модель в 58% случаев из тысячи изображений против 13% у обычного метода. Алгоритм разбивает поиск слабых мест на шесть модулей и автоматически подбирает инструменты с помощью байесовской оптимизации. Искажения на изображениях стали незаметнее примерно на 15%. Разработка позволит проверять безопасность моделей компьютерного зрения до их выпуска. В дальнейшем учёные планируют применить метод к большим языковым моделям.
9 просмотров