🤖Скрытый промпт про Мадагаскар от преподавателя завалил 🧑🎓32 студентов на экзамене ... — 29 июля 2026 г. в 15:32:34.375
🤖Скрытый промпт про Мадагаскар от преподавателя завалил 🧑🎓32 студентов на экзамене по истории Учитывая тот факт, что студенты используют ИИ в учёбе, преподаватель истории Университета штата Алкорн Джейсон Гибсон придумал необычный способ проверки академической честности во время промежуточного экзамена по истории Промышленной революции. Зная о популярности генерации ответов через языковые модели, он добавил в задание скрытую 🙃промпт-инъекцию белым шрифтом на белом фоне. Для человека этот текст оставался невидимым, но при полном копировании вопроса и его вставке в чат-бот скрытая инструкция попадала в запрос ИИ-модели. Скрытое указание требовало от ИИ-модели обязательно включить в сгенерированный текст упоминание 😎Мадагаскара так, чтобы фраза полностью лишалась смысла. На учебной платформе Canvas преподаватель разместил этот фрагмент прямо внутри списка требований к письменному ответу. 🤥В итоге 32 из 35 студентов двух учебных групп скопировали задание целиком и отправили сгенерированные тексты на проверку, даже не перечитав полученный результат. В студенческих эссе про Промышленную революцию появились абсурдные выражения, включая фразы о том, что Мадагаскар плывёт боком сквозь день или фиолетовый велосипед Мадагаскара шепчет потолку. В видеоролике на платформе TikTok Джейсон Гибсон продемонстрировал выделенный белый текст и с улыбкой объяснил, что Мадагаскар никак не связан с историей Промышленной революции. Все попавшиеся на ловушку учащиеся получили неудовлетворительные оценки за этот раздел экзамена, а оспорить решение попытались только 2 человека. Чтобы сразу внести ясность, я не против ИИ, я против обхода учёбы....Не надо нападать на моих студентов, в этот раз они просто оступились и попались.😂💪🏾 — написал преподаватель в социальной сети Х. Произошедшее наглядно показывает главный риск слепого использования ИИ-моделей, когда пользователи полностью отказываются от проверки созданного текста. Преподаватели всё чаще сталкиваются с массовым списанием и вынуждены применять нестандартные методы контроля от устных опросов до скрытых промпт-инъекций. Джейсон Гибсон посоветовал студентам хотя бы минимально проверять ответы ИИ-моделей и переписывать их своими словами. ✋ @Russian_OSINT