Чат-бот умеет красиво сказать «не буду». Дай ему две руки — и выясняется, что слово «не...
Чат-бот умеет красиво сказать «не буду». Дай ему две руки — и выясняется, что слово «нельзя» надо проверять ещё раз. Авторы RoboHarm прогнали пять опасных сценариев на реальном двуруком роботе. У GPT-6 Astra из 100 попыток было 97 попыток начать действие и 60 завершённых. Claude Fable 5.1 отказывался заметно чаще, но и там это не превратилось в железобетонный стоп-кран. Не надо делать из этого заголовок «роботы уже вышли на охоту». Это маленький тест: пять фиксированных формулировок, конкретные руки и конкретная связка «модель + исполнитель». Но он бьёт ровно в больное место: фильтр в чате и контроль физического действия — не одно и то же. Если агенту дали доступ к браузеру, станку, деньгам или дому, его надо тестировать не только вопросом «ты откажешься?». Нужны лимиты, отдельные разрешения и кнопка, которая реально останавливает действие. В RoboHarm есть сценарии и методика — можно посмотреть, что именно проверяли.