Ученые МИФИ создали стохастический трансформер для защиты ИИ от состязательных атак
Ученые МИФИ создали стохастический трансформер для защиты ИИ от состязательных атак Главная слабость современных трансформеров — не в ограниченности знаний, а в том, как они ошибаются. Нейросеть способна выдавать неверный ответ с полной убежденностью, и именно это делает ее уязвимой. Ситуация обостряется, когда кто-то намеренно стремится обмануть модель: достаточно внести в входные данные незначительные правки, почти не меняющие их смысла, чтобы система приняла ошибочное решение. Такие состязательные примеры превращают уверенность ИИ из преимущества в угрозу. https://innovanews.ru/info/news/internet/uchenye-mifi-sozdali-stoxastichesky-transformer-dlya-zashhity-ii-ot-sostyazatelnyx-atak/
6 просмотров
Канал в каталоге Максиметера
11 подписчиков · Новости