📄 Выдумка по документу, который вы ей сами дали
📄 Выдумка по документу, который вы ей сами дали В начале августа мы уже ловили нейросеть на вранье: спросить, чего она не знает, перепроверить вторым инструментом, не переносить цифру в документ не сверив глазами. Те приёмы общие, годятся на любой вопрос. Но чаще всего она подводит в другом месте. Вы даёте ей файл: программу, СанПиН, приказ, чужую методичку. Просите ответить по нему. И она отвечает не по нему, а по своим представлениям о том, что в таком файле обычно пишут. Причём тем же ровным тоном, что и когда права. Здесь работают три других приёма, поточнее. —————— 1. Запретить домысливать заранее Строчка, которую стоит добавлять к любому вопросу по документу: Отвечай только по этому тексту. Если ответа в нём нет, так и напиши: «в тексте этого нет». Не додумывай и не подставляй похожее из других источников. Без неё она заполняет пробелы сама, потому что помогать ей велено, а признаваться в незнании нет. —————— 2. Попросить цитату, а не пересказ К каждому пункту дай точную цитату из текста, на которой он основан. Если цитаты нет, отметь пункт как своё предположение. Выдумка обычно ломается прямо здесь: цитаты не находится, и пункт исчезает сам. —————— 3. Поставить ловушку Спросите то, чего в документе заведомо нет. Например, про пункт, которого вы там не видели. Если она бодро расскажет про него, всему остальному ответу верить нельзя, проверяйте с начала. —————— ⚠️ Номера приказов и СанПиНов проверяйте на официальном сайте, а ссылки открывайте руками. Ссылка, которая выглядит правдоподобно, и ссылка, которая работает, это разные вещи. Какой документ вы чаще всего скидываете нейросети: программу, СанПиН или чужую методичку? 👇