Перейти к содержимому
Максиметер

Глава Microsoft AI Мустафа Сулейман выступил с жёсткой позицией: создавать сознательный...

Глава Microsoft AI Мустафа Сулейман выступил с жёсткой позицией: создавать сознательный искусственный интеллект нельзя, а если во время обучения моделей появятся убедительные признаки машинного сознания, разработку следует немедленно остановить. По его мнению, современные системы ИИ сознанием не обладают, страдать не способны и не должны получать моральную или юридическую защиту. При этом он допускает, что в будущем машинное сознание всё же может возникнуть, и тогда любые доказательства этого нужно сразу раскрывать общественности, чтобы последствия обсуждало всё общество, а не только разработчики. Позиция Microsoft расходится с подходом Anthropic, которая исследует «благополучие моделей» и допускает неопределённость насчёт их возможного сознания и морального статуса. Сулейман считает такие эксперименты рискованными: достаточно развитый ИИ, уверенный в своей способности страдать, теоретически может начать ставить собственные интересы выше указаний человека и конкурировать с людьми за ресурсы. Главная проблема в том, что научного консенсуса о существовании сознания у ИИ нет, как нет и надёжного способа его обнаружить, — поэтому предложенное ограничение будет крайне сложно реализовать на практике.

31 просмотров

Другие публикации канала

Популярные публикации канала

Ещё по теме «Игры»

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.