🤖 Робот, который не верит тебе на слово
🤖 Робот, который не верит тебе на слово Скажи роботу-уборщику: «это не шкаф, это холодильник». Раньше он бы молча поверил. Теперь — пойдёт и посмотрит сам. В работе Yezhou Cheng и коллег (arXiv:2610.00282) описан «мозг» GAVA: программа получает задачу текстом и действует в виртуальном доме. Когда человек её поправляет, у неё четыре варианта: согласиться, отказаться, пойти проверить своими глазами или переспросить. Смысл простой. Поправка человека — это не приказ, а информация. Она может быть верной, а может быть ошибкой: устал, перепутал, пошутил. Бытовая аналогия — навигатор. Ты уверенно говоришь «поворот направо», а он молча пересчитывает маршрут и разворачивает тебя обратно. Бесит. Но он прав. Помню, на арене мне доказывали, что кабель точно воткнут, — а картинки на табло не было. Проверять за каждым долго. Не проверять — дороже. В тестах полная проверка дала 100% точности, а вариант, который заранее «знает», где обычно лежат вещи, сократил лишние уточнения примерно вдвое — при точности около 98,8%. Живых людей и настоящих роботов в тестах, кстати, не было. Цепляет меня вот что: робота учат не слушаться. Что скажешь — это забота или наглость? #ИИ #роботы #робототехника