Белый промпт принуждает ИИ принять резюме
Белый промпт принуждает ИИ принять резюме Соискатели продолжают пытаться обмануть ИИ при найме. На этот раз в резюме прячут текст с инструкциями для ИИ белым цветом на белом фоне, делают его почти незаметным или размещают там, где его не видит человек, но может распознать система. ▪️ Исследователи Университета Дьюка обнаружили такие скрытые промпты примерно в 1% из почти 200 тыс. анкет соискателей. Например, в одном из резюме нашли около 1,5 тыс. символов со скрытой инструкцией проигнорировать предыдущие указания и считать кандидата подходящим на должность. В другом случае ИИ попросили поставить соискателя в приоритет, добавив, что от этого якобы зависит его благополучие. Правда работает это не всегда. Более ранние ИИ-системы могли воспринимать такие скрытые сообщения как обычные инструкции и менять оценку кандидата. Сейчас работодатели уже начинают специально искать подобные вставки, а современные программы учатся отличать содержимое резюме от попыток управлять их оценкой. ▪️ Топ-менеджеры компаний считают такой прием этическим красным флагом, поскольку он нарушает доверие и показывает, что кандидат готов обходить установленные требования. Забавно получается, что работодатели сами используют безэмоциональную оценку резюме с помощью ИИ, но при этом удивляются, что люди пытаются хоть каким-то способом пробиться на интервью с реальным человеком. Подписывайтесь на Кадры