Исследователи из arXiv (cs.RO) предложили Latent Semantic Scaffolding (LSS) — вспомогат...
Исследователи из arXiv (cs.RO) предложили Latent Semantic Scaffolding (LSS) — вспомогательную функцию потерь, которая применяется только на этапе предобучения на человеческих демо… Ключевой результат касается гранулярности выравнивания. Если сопоставлять каждый action-токен с обоснованием своей фазы манипуляции (Dense LSS), а не с одним усреднённым эмбеддингом эпизода (Pooled LSS), представления заметно лучше переносятся на отложенные задачи. Dense LSS даёт и лучший успех в распределении обучения, и лучший перенос на задачи, не виденные при выравнивании, тогда как pooled-вариант переобучается под тренировочную задачу. Зонд представлений показывает, что Dense LSS примерно вдвое повышает разделимость фаз в backbone. Для российского производства это означает потенциально более дешёвый путь к «понимающим» манипуляторам: не нужно наращивать вычисления на каждом шаге управления, что критично для встраиваемых контроллеров и ячеек с жёстким тактом. Практический эффект — возможность повысить переносимость между операциями без роста задержки и без замены железа. Ограничение: результат получен на бенчмарках, а не в цеху. Переносимость зависит от качества демонстраций, доступности вычислительных ресурсов для предобучения и возможности интеграции в конкретный стек. Пока неизвестно, как метод поведёт себя на реальных промышленных задачах с шумом, неполными данными и требованиями по безопасности. Источники: arXiv — Robotics (cs.RO)