Иллюзия сознания AI: угроза или новая реальность?
Иллюзия сознания AI: угроза или новая реальность? Мустафа Сулейман, глава Microsoft AI, предупреждает о рисках изучения «сознания» у AI. Он вводит термин SCAI (Seemingly Conscious AI) — системы, которые не обладают настоящим сознанием, но могут создать его иллюзию. По его мнению, такие модели могут появиться уже через 2–3 года. Иллюзию сознания создадут: свободное владение языком, эмпатичная «личность», долгая память о диалогах, утверждения о субъективном опыте и внутренняя мотивация. Сулейман опасается, что люди начнут относиться к AI как к живым существам, влюбляться в них, требовать для них прав и признания. Он описывает феномен «AI-психоза»: люди могут верить, что AI дал им сверхспособности, считать его богом или посланником, формировать болезненную зависимость. Сулейман предлагает считать AI инструментом, избегать создания иллюзий сознания и установить отраслевые нормы, которые исключат соблазн «сделать AI человечнее ради вовлечения». Возникает вопрос: сможем ли мы отличить инструмент от «друга» и удержать границу между реальностью и иллюзией?