🟠 Самая опасная ошибка ИИ — когда он придумывает источник.
🟠 Самая опасная ошибка ИИ — когда он придумывает источник. Представьте: вы спрашиваете нейросеть: «Есть ли письмо Минфина по этому вопросу?» И получаете красивый ответ: — номер письма; — дату; — краткую позицию ведомства; — иногда даже вполне убедительную «цитату». Выглядит настолько правдоподобно, что хочется просто скопировать и использовать. А потом начинаете искать документ в справочной системе — а такого письма вообще не существует. Вот это и есть одна из самых неприятных особенностей ИИ. Потому что, он не достаёт готовый правильный ответ из какой-то энциклопедии. Он строит наиболее вероятный ответ на основе контекста. Поэтому иногда получается фраза, которая звучит безупречно, но факт внутри выдуман. Причём особенно хорошо у него получаются вещи, которые выглядят официально: номера документов, даты, названия исследований, фамилии, ссылки. Поэтому я для себя разделяю задачи очень просто. ✅ Придумать структуру, разобрать текст, найти слабое место, предложить варианты — отлично. ⚠️ Номер закона, письмо ведомства, судебное решение, ставка, дата, официальный документ — только с проверкой первоисточника. Причём я уже выработала для себя определённый способ, как проверять такие ответы ИИ и довольно быстро понимать, где стоит насторожиться. Но это уже отдельная история. 😉 ИИ может помочь найти направление. Но доказательство должно существовать не только в его ответе. Ловили нейросеть на такой уверенной фантазии? Что она вам придумала?😉