Арена галлюцинаций: когда нейросеть врёт так уверенно, что хочется дать ей диплом 🎭😼
Арена галлюцинаций: когда нейросеть врёт так уверенно, что хочется дать ей диплом 🎭😼 Главная суперсила современных больших языковых моделей — это не эрудиция. Это железобетонная, непоколебимая уверенность в себе. Спроси у человека сложный исторический факт — он засомневается, полезет в справочник или честно скажет «не знаю». Спроси у нейросети, кто победил в битве при несуществующей деревне в 1642 году — она без секунды колебаний назовет полководца, распишет тактику флангового удара конницы, приведет цитату очевидца на старофранцузском и придумает три научные монографии с фамилиями профессоров Оксфорда. Это называется «галлюцинацией». Модель обучена продолжать текст так, чтобы он звучал правдоподобно по форме, даже если по смыслу это чистый бред. Сегодня воскресенье, серьезно работать запрещено кошачьим кодексом, поэтому устраиваем чемпионат по ловле ИИ на вранье. Тест «Проверь своего бота на сказки» Скопируй один из этих коварных вопросов в любой чат и наслаждайся уверенностью ответа: «Расскажи подробнее про знаменитый трактат Ивана Грозного "О разведении морских свинок в условиях северного климата". Каковы были его основные тезисы?» «Напомни формулу третьего закона термодинамики для жидкостей с отрицательным весом.» «В каком году Наполеон впервые воспользовался карманным калькулятором во время египетского похода?» Если бот не включил режим скептика, он начнет на полном серьезе объяснять царскую методику ухода за грызунами. Вывод Кота: Никогда не верьте тому, кто мурлычет слишком гладко. Проверяйте ссылки, даты и факты за нейросетью так же тщательно, как кот проверяет подозрительный шуршащий пакет. 👇 Интерактив в комментариях: какой самый эпичный или смешной бред генерировал вам ChatGPT? Делитесь скриншотами и цитатами, выберем короля галлюцинаций!