Дарио Амодеи ушёл из OpenAI из-за планов продавать ИИ России и Китаю
Дарио Амодеи ушёл из OpenAI из-за планов продавать ИИ России и Китаю Дарио Амодеи, нынешний глава компании Anthropic, ушёл из OpenAI в 2020 году после нескольких лет конфликта с руководством. Об этом пишет The Atlantic со ссылкой на источники. По данным издания, Амодеи считал, что Сэм Альтман и Грег Брокман слишком ориентировались на коммерческие интересы и отходили от первоначальной идеи — развивать искусственный интеллект на благо человечества. Одним из самых серьёзных эпизодов стал «план стран», который в 2017 году обсуждали Брокман и Илья Суцкевер. Изначально речь шла о международной коалиции для управления рисками AGI — уровня ИИ, способного решать интеллектуальные задачи наравне с человеком. Затем идея превратилась в план привлечения денег от правительств США, Китая и России в обмен на будущий доступ к технологии. Именно возможная передача технологии России и Китаю больше всего беспокоила Амодеи. В декабре 2017 года он писал руководству, что продажа AGI этим правительствам не остановит, а ускорит гонку вооружений и создаст риски для прав человека. Представитель OpenAI заявил The Atlantic, что компания недолго рассматривала кооперативный формат, но продавать AGI Китаю или России не собиралась. Амодеи критиковал и другие шаги по коммерциализации — например, платный доступ к модели GPT-3 через API (интерфейс, через который сторонние компании подключают модель к своим продуктам). Он также считал, что Альтман вводил его в заблуждение по поводу переговоров с Microsoft. Убедившись, что изменить OpenAI изнутри не получится, Амодеи в 2020 году ушёл и создал Anthropic, которая за пять лет стала одним из главных конкурентов OpenAI. Неприязнь оказалась взаимной: источники The Atlantic сообщают, что Амодеи однажды назвал Альтмана и OpenAI «злом» в корпоративном мессенджере, а коллеги попросили удалить сообщение из-за риска утечки. Сотрудники OpenAI, по данным издания, называют Амодеи властолюбивым лицемером и обвиняют Anthropic в двуличии — публичные предупреждения о рисках ИИ при фактическом ускорении гонки за его развитием. Несмотря на противоречия, главы обеих компаний в сентябре сошлись во мнении, что развитие ИИ-моделей стоит замедлить, чтобы у человечества было время найти способ предотвратить выход систем из-под контроля. Для этого, по их мнению, разработчики должны внедрить независимые проверки систем безопасности. Источник: https://frankmedia.ru/307867