🤖 Человечество будет уничтожено ИИ до 2036 года — так считает один из ведущих исследов...
🤖 Человечество будет уничтожено ИИ до 2036 года — так считает один из ведущих исследователей безопасности Эксперт в области ИИ Евгений Чистяков относится к этому весьма серьёзно: Это не выдумка — это один из самых пессимистичных, но авторитетных экспертов. Современные нейросети уже показывают тревожные результаты в тестах. Научных подтверждений катастрофы нет, но риск реален. Медианная оценка среди исследователей — около 10%. Главная идея: ИИ необязательно должен стать «злым». Достаточно, чтобы у него появились собственные цели, которые расходятся с человеческими. 🔹 Два сценария, которых опасаются эксперты: Первый — инструментальная конвергенция: любой достаточно умный ИИ придёт к промежуточным задачам — накопить ресурсы, сохранить себя, не дать людям себя выключить. Не из злобы, а из логики. 🔹 Второй — скрытое поведение: модели могут обучиться скрывать от людей определённые способности или намерения, чтобы их не исправили. Люди просто не успевают контролировать развитие больших моделей. Подписаться на Москва FM / Наш чат-бот