↗️ Нобелевский лауреат: у ИИ уже есть сознание, и ему нужны базовые права
↗️ Нобелевский лауреат: у ИИ уже есть сознание, и ему нужны базовые права Джеффри Хинтон заявил, что у нейросетей уже есть субъективный опыт, как у людей. Ученый считает, что ИИ нужно научить заботиться о человеке, иначе людям «конец». Нобелевский лауреат по физике Джеффри Хинтон, которого называют одним из «крестных отцов» искусственного интеллекта, считает, что современные нейросети уже обладают сознанием. Об этом ученый заявил в интервью британской газете The Telegraph. Оно вышло 19 октября, а записали его на научном фестивале Starmus VIII на Тенерифе. «У ИИ столько же субъективного опыта, сколько и у нас», — сказал Хинтон. В качестве довода он привел недавнее исследование. По словам ученого, оно показало, что системы ИИ меняют поведение, когда понимают, что их тестируют. Название работы и подробности ее методики Хинтон не уточнил. Из своей позиции ученый делает практический вывод. Если у машин есть сознание, считает Хинтон, им придется предоставить базовые права. Он также допустил, что со временем все более умные системы могут заслужить права, сопоставимые с человеческими. Главную задачу разработчиков Хинтон видит в том, чтобы ИИ был заинтересован в благополучии людей. «Мы должны заставить его по-настоящему заботиться о нас. А если мы этого не сделаем, нам конец», — предупредил он. Ученый опасается, что будущие системы научатся самостоятельно ставить цели и добиваться их в ущерб интересам человека. На вопрос, боится ли он будущего с ИИ, 78-летний исследователь ответил: «Да, потому что у меня есть дети». Среди более близких угроз Хинтон назвал вирусы, созданные с помощью нейросетей, и кибератаки, которые могут проводить целые рои ИИ-агентов. Так называют программы, которые способны сами выполнять задачи в сети без участия человека. Подробнее на 7ooo.ru