Глава Microsoft AI считает, что ИИ не должен получать права
Глава Microsoft AI считает, что ИИ не должен получать права Глава Microsoft AI Мустафа Сулейман предупреждает: если ИИ-агенты начнут действовать слишком самостоятельно, они могут однажды конкурировать с людьми за ресурсы. Поэтому, по его мнению, уже сейчас нужны системы, которые смогут ограничивать их действия. Отдельно Сулейман критикует подход Anthropic к созданию «личности» ИИ. В компании используют «Конституцию Claude», где модели предлагают рассуждать об эмоциях и собственном состоянии. Сулейман считает, что здесь легко попасть в замкнутый круг: разработчики предполагают, что у ИИ могут быть эмоции, обучают его рассуждать в этих категориях, а затем воспринимают получившееся поведение как доказательство первоначальной идеи. В Microsoft AI придерживаются другого подхода. Для своих моделей компания разработала «Кодекс поведения гуманистического ИИ», где ИИ рассматривается прежде всего как инструмент, который должен оставаться под контролем человека. Сулейман также выступает против того, чтобы ИИ самостоятельно владел активами, зарабатывал деньги или создавал закрытые каналы общения с другими ИИ. По его мнению, современные модели не обладают сознанием и созданы для выполнения человеческих задач. Получается любопытный парадокс: чем больше ИИ учат выглядеть как самостоятельную личность, тем сложнее становится понять, где заканчивается удобный инструмент и начинается нечто, чему мы сами готовы приписать права. Должны ли у ИИ когда-нибудь появиться права? ❤️ — да, если ИИ станет самостоятельным 🤬 — нет, это всего лишь технология @miseuminvest