Самая неприятная ошибка ИИ — не когда он пишет: «Я не знаю».
Самая неприятная ошибка ИИ — не когда он пишет: «Я не знаю». Гораздо хуже, когда он отвечает уверенно. Например: «Да, по вашим условиям возврат возможен в течение 30 дней». Фраза звучит нормально. Спокойно. Конкретно. Без всяких «возможно» и «скорее всего». И вот именно поэтому ей легко поверить. А теперь представим, что в ваших документах про 30 дней вообще ничего нет. Откуда тогда взялся ответ? ИИ мог достроить его сам. Это важный момент, который поначалу не всегда очевиден. Мы привыкли, что человек, если сомневается, обычно это показывает: «не уверен»; «надо проверить»; «кажется, было так». У ИИ всё может быть иначе. Он способен сформулировать неправильный ответ тем же спокойным тоном, каким секунду назад дал правильный. Поэтому я бы не оценивал ответ по тому, насколько убедительно он звучит. Лучше задать другой вопрос: А откуда это взялось? Если речь идёт о цене, условиях, сроках, характеристиках, правилах или других важных данных — должен быть источник, с которым можно свериться. Нет источника — уже повод остановиться и проверить. На мой взгляд, это вообще одна из полезных привычек при работе с ИИ: не путать уверенность формулировки с достоверностью факта. Попробуйте сегодня взять один ответ ИИ, который кажется вам очевидно правильным. И проверить его по первоисточнику. Иногда всё совпадёт. А иногда окажется, что самое убедительное предложение в ответе как раз и стоило проверить первым.