🕵️ Почему нейросеть врёт — и как это поймать промптом
🕵️ Почему нейросеть врёт — и как это поймать промптом Языковая модель не хранит знания как база данных. Она предсказывает правдоподобное продолжение — и одинаково уверенно звучит как в правде, так и в выдумке. Отличить по тону невозможно. Риск галлюцинаций можно снизить прямо в промпте. Просите источники рядом с утверждением — это вынуждает модель ошибиться дважды, а не один раз. Включайте веб-поиск для фактов и разрешайте ответ «не знаю». Самопроверка модели без внешних данных не помогает — исследования показывают, что после самоисправления ответы могут стать хуже. Реальная проверка требует внешнего источника: поиска, документа, человека. Автор: Антон Тихомиров ---- Оцените идею и обсудите её на платформе Футурейтинг: https://futurating.com/pochemu-nejroset-vryot-i-kak-eto-pojmat-promptom/