Глава Microsoft AI Мустафа Сулейман выступил с жёсткой позицией: создавать сознательный...
Глава Microsoft AI Мустафа Сулейман выступил с жёсткой позицией: создавать сознательный искусственный интеллект нельзя, а если во время обучения моделей появятся убедительные признаки машинного сознания, разработку следует немедленно остановить. По его мнению, современные системы ИИ сознанием не обладают, страдать не способны и не должны получать моральную или юридическую защиту. При этом он допускает, что в будущем машинное сознание всё же может возникнуть, и тогда любые доказательства этого нужно сразу раскрывать общественности, чтобы последствия обсуждало всё общество, а не только разработчики. Позиция Microsoft расходится с подходом Anthropic, которая исследует «благополучие моделей» и допускает неопределённость насчёт их возможного сознания и морального статуса. Сулейман считает такие эксперименты рискованными: достаточно развитый ИИ, уверенный в своей способности страдать, теоретически может начать ставить собственные интересы выше указаний человека и конкурировать с людьми за ресурсы. Главная проблема в том, что научного консенсуса о существовании сознания у ИИ нет, как нет и надёжного способа его обнаружить, — поэтому предложенное ограничение будет крайне сложно реализовать на практике.
Канал в каталоге Максиметера
452 подписчиков · Игры