Екатерина Егорова I специалист по нейросетям I Нейро-баба
IT и технологии · 12 сентября 2026 г.
Вот почему нельзя слепо доверять ИИ — даже в простых вещах
Вот почему нельзя слепо доверять ИИ — даже в простых вещах Недавно я решила проверить голосового помощника очень простым вопросом: «Сколько букв "р" в слове "стол"?» Ответ был: «Одна». 😳 Я переспросила. Ответ практически не изменился. И вот здесь самое интересное. Можно посмеяться и сказать: «Ну всё понятно. ИИ пока глупый». Но проблема совсем в другом. Нейросеть не сидит внутри и не думает: «Так… сейчас посчитаю буквы в слове "стол". Р… нет. Р нет. Значит, ноль». Она формирует ответ совсем иначе. И поэтому иногда может выдать уверенный ответ, который выглядит абсолютно нормальным, но не соответствует действительности. Причём чем красивее и убедительнее звучит ответ, тем сложнее бывает заметить ошибку. Именно поэтому я всегда разделяю две вещи: ИИ умеет очень хорошо работать с информацией. И: ИИ не является гарантированным источником истины. Это не одно и то же. И вот что особенно важно. Если нейросеть ошиблась в вопросе про букву «р» — это забавно. Если она ошиблась в договоре, медицинской информации, финансовом расчёте или важных рабочих данных — последствия уже совсем другие. Поэтому мой принцип простой: не надо бояться ИИ. Но и слепо доверять ему тоже не надо. Я могу принять первый ответ как рабочую версию. Но если вопрос важный — я проверю. А иногда просто задам нейросети дополнительный вопрос и попрошу её посмотреть на собственный ответ ещё раз. Кстати, я нашла один очень простой способ делать такую проверку. В следующем посте покажу конкретный запрос, который можно скопировать и попробовать самому.