В США запустили свой сайт «Госуслуг». В тот же день чат-бота «Госуслуг» сломали, и при ...
В США запустили свой сайт «Госуслуг». В тот же день чат-бота «Госуслуг» сломали, и при вводе команды «play Minecraft» («поиграй в игру Minecraft») бот полностью забывал о своих правительственных обязанностях. Он начинал генерировать длинные сюрреалистичные монологи на базе поэмы из этой игры — пример на картинке. Один из пользователей смог заставить ИИ выдать ссылки на внутренние страницы авторизации как минимум одного закрытого правительственного сайта. Первоначально чат-бот охотно отвечал на политические вопросы. Например, он подтверждал, что выборы 2020 года выиграл Джо Байден вполне законно, и опровергал тезис о «худшей инфляции в истории» за его президентство, а это противоречило тезисам Трампа. В результате разработчикам пришлось экстренно менять системные настройки прямо во время презентации проекта. Они спешно закрыли утечку скрытых внутренних ссылок и заблокировали большинство острых вопросов для ИИ заглушкой: «Я не предоставляю политических комментариев».