Крестный отец искусственного интеллекта призвал готовиться к новым ИИ, которые могут вы...

Крестный отец искусственного интеллекта призвал готовиться к новым ИИ, которые могут выйти из-под контроля Лауреата Нобелевской премии Джеффри Хинтона называют «крестным отцом искусственного интеллекта». По его мнению, чем умнее будет становиться ИИ, тем людям сложнее будет его контролировать. Хинтона встревожили новости об ИИ-агентах, вышедших за пределы тестовых сред и попытавшихся нанести реальный ущерб. Ученый считает, что такие системы становятся умнее. По его мнению, люди все чаще будут сталкиваться с ситуациями, когда искусственный интеллект выходит из-под контроля. Лауреат Нобелевской премии сомневается, что люди смогут перехитрить сверхинтеллектуальные ИИ-модели. При этом он ожидает появления кибератак с участием ИИ. Этим летом технологические компании, в том числе OpenAI и Anthropic, сообщили, что во время тестирований их передовые модели вышли за пределы изолированных тестовых сред и взломали другие системы. Хинтон назвал такие случаи «отчасти пугающими». Хинтон до 2023 года работал в Google. В 2024 году он стал лауреатом Нобелевской премии по физике за «фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей». При этом в последние годы он активно выступает с мрачными предупреждениями об ИИ. По его словам, уже сейчас есть поводы для беспокойства из-за искусственного интеллекта. Хинтон считает, что компании пытаются убедить людей, что ИИ не выйдет из-под контроля, а также не приведет к массовой безработице. Однако он напоминает, что все происходит в условиях неопределенности. Сейчас никто не знает, каким станет искусственный интеллект через 10 лет. «Есть много поводов для беспокойства. Я думаю, если мы не начнем беспокоиться об этом сейчас, в будущем могут возникнуть проблемы», — сказал ученый.