Эмпирическое исследование бэкдоров в обучении промышленных роботов-манипуляторов
Эмпирическое исследование бэкдоров в обучении промышленных роботов-манипуляторов Авторы arXiv:2609.26868 провели эмпирическое исследование бэкдор-атак и защит в обучении роботизированной манипуляции на двух реальных коммерческих промышленных манипуляторах — FANUC и xArm. Исследование описывается как предварительное. Проблема в том, что предсказания обученных моделей (visuomotor и Vision-Language-Action) напрямую транслируются в физические действия. Робот с внедрённым бэкдором может вести себя нормально при обычной работе и выдавать заданное атакующим поведение только при появлении специфического триггера. Авторы проверяли, может ли бэкдор надёжно вызывать семантически некорректные манипуляции, оставаясь незаметным при штатном выполнении задачи. Разработан онлайн-конвейер защиты, который обнаруживает и нейтрализует триггеры во время выполнения, и сравнён с офлайн-защитой через дообучение. Отдельно измерены вычислительная задержка и накладные расходы защиты — для оценки пригодности к высокопроизводительным промышленным операциям. Конкретных цифр задержки и эффективности в аннотации нет. Источники: arXiv — Robotics (cs.RO)