Робот, который учится во сне
Робот, который учится во сне Чат-боты вроде ChatGPT научились писать и говорить. Теперь ИИ пересаживают в тело робота, чтобы он собирал детали и варил металл. И тут выясняется, что учить его придётся совсем иначе. Об этом пишет Центр Вудро Вильсона — вашингтонский аналитический центр, учреждённый Конгрессом США в 1968 году (в России признан нежелательной организацией). Чат-бот учился на текстах из интернета. А робот должен учиться на действиях: вот так берут чашку, вот так открывают дверь, вот так не задевают человека. Таких записей в интернете нет. Их приходится создавать вручную, долго и дорого. Китайцы сначала пошли напролом. Компания AgiBot построила цех площадью больше 4000 квадратных метров, заполнила его тремя тысячами предметов и заставила роботов повторить миллион простых действий. Честно, но медленно. Потом нашли способ быстрее. Он называется «модель мира». Проще говоря, это тренажёр: виртуальный мир, в котором работают законы физики. Робот может провести в таком тренажёре тысячи «дней», прежде чем впервые выйти в настоящий цех. Помните, как в «Матрице» Нео загрузили программу, и он открыл глаза: «Я знаю кунг-фу»? Вот примерно так. Результат говорит сам за себя. Модель AgiBot сначала посмотрела 3000 часов видео с работой роботов, а потом освоила незнакомую машину всего за один час. Дальше — больше. Nvidia открыла всем желающим модель Cosmos 3, обученную на 348 миллионах видео из реального мира. Такие тренажёры сами придумывают ситуации, вплоть до редких аварий, которых в жизни пришлось бы ждать годами. Опыт робота больше не зависит от размера цеха — он зависит от мощности компьютера. Пекин это понял. В августе Китай создал Экспертный комитет по моделям мира в рамках пятилетнего плана и строит почти 30 государственных «полигонов» для роботов. Вашингтон, по оценке центра, пока не заметил, что гонка роботов переместилась в виртуальный мир. Но у красивой схемы есть обратная сторона. Во-первых, такие тренажёры — технология двойного назначения. То, что учит робота работать на складе, может так же быстро учить боевые системы видеть цель, и военная пресса КНР уже пишет об этом. Во-вторых, тренажёр можно взломать. В феврале исследователи незаметно подправили законы физики внутри модели для беспилотников. Картинка выглядела убедительно, но дроны, обученные в этом мире, стали планировать маршрут на 20 процентов хуже. А чтобы заложить в робота скрытую команду, хватило испортить 0,31 процента обучающих записей. Если чат-бот ошибается, он пишет глупость. Если ошибается робот, он сбивает человека. В-третьих, виртуальный тренажёр годится не для всякой работы. Пример — сварка. Электрическая дуга и кипящий металл ведут себя слишком сложно: ни одна симуляция не воспроизводит их достоверно. Поэтому американская Path Robotics восемь лет учила роботов на настоящих швах. Ставка окупилась. В августе крупнейший судостроитель США HII заключил с Path и ещё одной фирмой соглашение на сумму до 900 миллионов долларов: роботы будут варить корпуса авианосцев и подлодок для ВМС. Там, где ошибка стоит слишком дорого, доверяют тому, кто учился по-настоящему. Отсюда главный вывод статьи, и цель у него одна. Государство должно взять гонку роботов под контроль, пока это ещё возможно. США проигрывают не потому, что у Китая больше роботов, а потому, что никто не умеет проверять, можно ли роботам верить. Машина, которая проходит стандартный тест на 95 процентов, проваливается до 30, стоит сдвинуть предметы на столе или переставить камеру. Поэтому автор предлагает три шага. Поручить Национальному институту стандартов США создать эталоны честной физики для тренажёров. Ввести независимые проверки роботов перед госзакупками. Собрать общие базы реальных данных о касаниях, усилиях и поведении людей рядом с машинами. По сути, это призыв создать для роботов то, что давно есть у самолётов и лекарств, а именно систему сертификации.