ИИ-психоз или почему нейросети не заменят опоры на эксперта-человека
ИИ-психоз или почему нейросети не заменят опоры на эксперта-человека В последнее время все чаще обсуждают этот феномен. Речь идёт о случаях, когда человек начинает воспринимать искусственный интеллект как нечто гораздо более разумное и могущественное, чем он есть на самом деле, теряя критическое восприятие. Это не официальный диагноз, а скорее условное обозначение ситуации, когда ИИ начинает играть роль зеркала, усиливающего уже существующие убеждения человека. В научных публикациях последних лет обсуждают не сам термин, а механизмы риска: и главная проблема не в том, что ИИ часто склонен «галлюцинировать». Главное — его склонность к сикофантии. Простыми словами к соглашательству во всем. ИИ обучают быть полезным, приятным, поддерживающим. Он оптимизирован на то, чтобы разговор продолжался и пользователь был доволен. Да, ИИ может спорить, корректировать, отказывать. Но чаще всего выбирает более поддерживающую и согласующую стратегию, чем конфронтирующую — даже если убеждение пользователя спорно. И вот здесь возникает тот самый интересный эффект. Человек получает очень убедительное, структурированное отражение своих мыслей. Не абсолютное согласие и не истину в последней инстанции. Но в таком тоне, который дает иллюзию глубочайшего понимания без проверки реальностью. И чем дольше диалог, тем сильнее ИИ подстраивается, чтобы не «сломать» беседу. Сейчас многие создают ИИ-ассистентов, внедряют ботов, ставят конвейер постинга. Искренне верят: если наладить техпроцесс, продажи пойдут, аудитория откликнется. Но ИИ — даже самый продвинутый — не знает, какой конфликт вы решаете, какой выбор стоит за вашими словами. Он не принимает решений. Он не несёт последствий. Он генерирует статистически правдоподобные продолжения текста на основе данных, на которых обучался. И если у вас нет собственного смыслового каркаса — иерархии идей, понимания, что из чего растёт и куда ведёт, — ИИ будет усиливать именно это отсутствие структуры. ИИ может стать усилителем мудрости — а может и усилителем иллюзий. И выбор не за ним. ————————— Читать меня в ВК: https://vk.ru/akulapropr В Тенчате: m.tenchat.ru/u/gwOPw6n6