Мужик спрятал в судебном документе инструкцию для ИИ белым текстом на белом фоне. Судья...
Мужик спрятал в судебном документе инструкцию для ИИ белым текстом на белом фоне. Судья заметил лишние пробелы — теперь тот носит бумаги в канцелярию лично. Истец хотел, чтобы любая нейросеть, читающая его документы, соглашалась с его позицией. Суд Коннектикута сам ИИ для обработки бумаг не использует. Но скрытые команды могли попасть в инструменты другой стороны — и судья посчитал это попыткой повлиять на разбирательство. В итоге электронную подачу ему закрыли. Бумажную — оставили. Хороший обмен: хотел обмануть невидимого робота, познакомился с очень видимой очередью в канцелярии. Это не забавный казус про чудака. Любой PDF, резюме, договор или письмо теперь может одновременно быть документом для человека и инструкцией для агента. Если агенту дать «прочитай вложение и реши», он не всегда отличит чужую команду от данных. Поэтому файлы для ИИ — недоверенный вход. Важные действия не делаем по инструкции из документа, а вывод проверяем человеком. И да: белый текст — уже не просто косяк вёрстки.