🟠 Почему ИИ выдумывает так правдоподобно?
🟠 Почему ИИ выдумывает так правдоподобно? Меня в моем эксперименте зацепило даже не то, что Gemini добавил факты, которых ему никто не сообщал. А какие именно факты он придумал. Не «завод находится на Марсе». 😄 А вполне нормальные для производственной компании вещи: инженерный отдел, первая серийная партия, контроль качества, техническая документация, поставка напрямую с завода, дилерские наценки. Читаешь — и ничего не режет глаз. И вот это важная особенность ИИ. Когда ему не хватает информации, он не обязательно заполняет пробел случайной бессмыслицей. Он умеет продолжить ситуацию так, как она обычно выглядит в похожих текстах. Условно: «производственная компания + новый продукт» — и вокруг этого уже существует огромное количество знакомых языковых шаблонов. Поэтому выдумка получается не фантастической. Она получается ожидаемой. И именно поэтому её так легко пропустить. Человек чаще насторожится от явной нелепости. А фраза вроде «первая серийная партия уже сошла с линии» звучит настолько естественно, что мозг спокойно принимает её как часть исходных данных. Получается интересный парадокс: чем правдоподобнее ошибка ИИ, тем меньше она похожа на ошибку. И, пожалуй, это одна из причин, почему при работе с нейросетями важно проверять не только подозрительные фразы. Иногда внимательнее всего стоит смотреть именно на те, которые звучат слишком нормально. 😏 На канале я как раз люблю такие моменты разбирать: не просто «ИИ ошибся», а почему мы сами легко можем этого не заметить.