⚠️ А вы знали, что нейросети выдумывают факты, даже когда звучат абсолютно уверенно?
⚠️ А вы знали, что нейросети выдумывают факты, даже когда звучат абсолютно уверенно? Это называют галлюцинациями. По рейтингу компании Vectara, разные модели выдумывают в 3–27% ответов. Модель не проверяет факты, она подбирает правдоподобный текст. Поэтому придуманная цифра выглядит так же убедительно, как настоящая. Больнее всего это бьёт по ценам, законам, датам, ссылкам на источники, цитатам, медицине и деньгам. Как защититься 1. Разреши модели сказать «не знаю». Добавь в промпт: «Если не уверен или данных не хватает, так и скажи. Не придумывай цифры и источники» 2. Давай материал, а не тему. Вставь текст или таблицу и попроси отвечать только по ним: «Отвечай только по тексту ниже. Если ответа в нём нет, напиши „в тексте нет“» 3. Проси отделять факты от догадок. «Отметь, что в ответе проверенный факт, а что предположение. Для фактов укажи, откуда они» 4. Сверяй важное с первоисточником. Цифры, законы и цены проверяй на сайте ведомства, официальной странице компании или в оригинале исследования. 5. Спроси ещё раз иначе. Задай тот же вопрос другими словами или в новом чате. Ответы разошлись? Значит, проверять обязательно. GPT пишет черновик, а за факты отвечаешь ты. Особенно если текст уходит клиенту.