Ученые разработали метод очистки медицинских изображений от состязательных атак
Ученые разработали метод очистки медицинских изображений от состязательных атак Исследователи из Школы компьютерных наук Ноттингемского университета в Нинбо (Китай) и Ноттингемского университета (Великобритания) представили новую разработку AdvPurify-GAN – генеративно-состязательную сеть для очистки медицинских изображений от состязательных атак. По словам авторов, система стала прорывом в области повышения устойчивости систем анализа медицинских изображений. Глубокие нейросети, применяемые для диагностики заболеваний, уязвимы к состязательным атакам – намеренно внесенным в изображение незаметным искажениям, которые приводят модель к неверному предсказанию. Медицинские модели оказываются более уязвимы из-за дефицита данных, обусловленного вопросами приватности и сложностью сбора. Существующие методы защиты эффективны лишь против конкретных типов атак и требуют переобучения модели, что в медицинской сфере затруднено из-за ограничений на обмен данными и высокой вычислительной стоимости. Предложенный метод основан на очистке изображений: генератор на базе U-Net с латентным кодированием восстанавливает атакованное изображение до подачи на классификатор, не требуя его переобучения. Для стабилизации обучения авторы применили спектральную нормализацию, мягкую регуляризацию согласованности и экспоненциальное скользящее среднее, адаптировав их под особенности медицинских изображений (низкую вариативность, высокую структурированность и значимость мелких деталей). По стандартным сценариям атак AdvPurify-GAN превзошел сравниваемые методы состязательного обучения и очистки. Время работы составило около 15 мс, что значительно превысило показатели существующих датасетов.