Для промышленной роботизации ключевая проблема VLA-моделей (Vision-Language-Action) — н...
Для промышленной роботизации ключевая проблема VLA-моделей (Vision-Language-Action) — не обобщение, а гарантии безопасности: дообучение через мягкие штрафы за ожидаемые нарушения… Суть подхода: модель без обучения аппроксимирует функцию ценности достижимости HJ напрямую по визуальным наблюдениям и оценивает безопасную рабочую область. Полученный «критик безопасности» разделяет оптимизацию политики: внутри допустимой области максимизируется награда, вблизи опасных состояний включается восстановление. Это позволяет избежать постоянного компромисса между наградой и ценой нарушений. Чтобы не размечать каждый шаг вручную, авторы вводят рубричные оценки безопасности от VLM, которые превращают семантическую обратную связь в структурированные цели для критика. По заявлению авторов, на пяти бенчмарках навигации и манипуляции и нескольких базовых VLA-моделях ShieldVLA снижает накопленную цену безопасности в среднем на 57% и повышает успешность задач (цифра успешности в аннотации обрезана). При пилотах VLA-политик стоит заранее закладывать отдельный контур оценки безопасности, а не полагаться на штрафы в функции потерь. Переносимо здесь то, что безопасность можно оценивать по визуальным данным без плотной ручной разметки — это снижает трудозатраты на подготовку данных. Однако пока неизвестно, как метод поведёт себя на реальном оборудовании, при других сенсорах и в российской эксплуатации; результаты получены на бенчмарках, а не в цеху. Кроме того, подход зависит от доступности VLM-моделей и вычислительных ресурсов для инференса критика в реальном времени — это ограничение по локализации и кадрам. Источники: arXiv — Robotics (cs.RO)