Екатерина Егорова I специалист по нейросетям I Нейро-баба
IT и технологии · 20 марта 2026 г.
Самое опасное в ИИ не то, что он умный. Самое опасное — он всегда уверен в себе.
Самое опасное в ИИ не то, что он умный. Самое опасное — он всегда уверен в себе. Еще осенью на закрытом вебинаре от разработчиков я зафиксировала мысль, которая полностью меняет подход к делу: БЯМ (Большая языковая модель) — это НЕ знаниевый сервис. Мы привыкли относиться к ИИ как к библиотеке или поисковику. Нам кажется, что внутри лежат аккуратные папки с фактами. Но это иллюзия. У нейросети нет памяти. У неё нет фактов. У неё есть только бесконечное «облако» связей между словами. И она просто феноменально умеет угадывать, какое слово должно идти следующим. Она делает это настолько виртуозно, что нам кажется, будто она всё понимает и знает. В этом и ловушка. С одинаково спокойным и экспертным видом ИИ может выдать вам как гениальное решение, так и абсолютную чушь от начала и до конца. И если вы не знаете, как с ним работать, вы никогда не отличите одно от другого. Это называют галлюцинациями. И это — главная проблема технологий сегодня. Хорошая новость: есть три рабочих подхода, которые позволяют приземлить этого «фантазера» и заставить его говорить правду. Причем вам не нужно быть программистом или математиком: 1️⃣ RAG (Retrieval-Augmented Generation) — когда мы даем системе конкретный текст и жестко запрещаем придумывать что-то от себя. 2️⃣ Internet Cross-Reference — когда нейросеть сама перепроверяет свои ответы через поиск в реальном времени. 3️⃣ Знаниевый граф — создание жесткой логики и связей, своего рода «мозгов», чтобы система не путалась в терминах. В следующих постах я разберу каждый метод «на пальцах» (всё, как вы любите): как внедрить это в работу и какие промпты писать, чтобы ИИ перестал фантазировать и начал приносить пользу. А пока расскажите честно: случалось ли вам когда-нибудь поверить ответу ИИ, потом проверить и понять что он полностью выдумал всё с нуля? Сохраняйте серию. 👇 Это та самая база, без которой работа с ИИ — просто лотерея. ВКонтакте: https://vk.ru/club236232114