ИИ знает. Даже когда не знает — 23 июля 2026 г. в 09:58:11.466
ИИ знает. Даже когда не знает Что отличает профессионала от новичка? Профессионал может признаться в незнании. И разобраться в предмете, конечно, если это требуется. «Я не знаю» — ответ профессионала. Он позволяет остановиться, проверить гипотезы и принять решение на основании проверенных фактов с учётом сформулированных допущений. Представьте себе такого профессионала: уверенный тон, отсутствие суетливости, убедительная аргументация. По этим нехитрым внешним признакам мы распознаём авторитет. Или распознавали. Те же паттерны «поведения» мы наблюдаем и у ИИ: — на любой вопрос есть ответ — не факт, что верный; — уверенность в нём зашкаливает, даже если ИИ ловят на галлюцинациях. Уверенный тон ответа влияет на нас. В новом исследовании авторы проверили, как советы ИИ воздействуют на готовность человека признать отсутствие знаний. Что выяснили В пяти экспериментах участвовали 3 132 человека. Им задавали сложные вопросы о деталях фильмов и разрешали отвечать: «Не знаю». Вопросы подобрали так, чтобы модель часто ошибалась. Часть участников могла обратиться к ИИ. Результаты: — без ИИ люди выбирали ответ «Не знаю» в 36% случаев, с ИИ — лишь в 6%; — при повторении эксперимента — 44% против 3%; — точность снизилась с 27,5 до 9,2%; — уверенность выросла с 29,6 до 75,9 балла из 100. Знаний стало меньше. Уверенности — больше. Эффект сохранялся, даже когда человек не просил о помощи: подсказка появлялась автоматически — как это сейчас происходит в поисковиках и корпоративных системах. Финансовая ответственность улучшала результаты: участники реже обращались к ИИ и чаще проверяли его советы. Однако ответ «Не знаю» они всё равно выбирали заметно реже. Что это означает для бизнеса Риск генеративного ИИ заключается не только в галлюцинациях. Гладкий и уверенный ответ модели меняет поведенческий паттерн: сотруднику кажется, что данных для принятия решения уже достаточно. Поэтому в критически важных процессах стоит: 1. Сначала фиксировать собственную оценку и только затем обращаться к ИИ. 2. Требовать проверяемые источники — и проверять их. 3. Предусмотреть статусы «Недостаточно данных», «Нужна проверка», «Требуется эскалация» и измерять частоту их использования. 4. Оставить ответственность за результат за человеком. У вас в корпоративной культуре принято признавать незнание?