📌 Американец спрятал в судебных документах инструкции для ИИ
📌 Американец спрятал в судебных документах инструкции для ИИ Мэтью Эллиотт из Коннектикута во время судебного спора с медицинской компанией добавил в официальные документы скрытый текст белого цвета. Если документ скопировать в ИИ, модель должна была незаметно получить указание принять сторону Эллиотта и поддержать его требования. Ловушку заметили в суде, когда проверили подозрительные участки документа. Сам судья заявил, что ИИ в работе над делом не использует, однако юристы предположили, что целью могло быть не только судебное дело. Если адвокат ответчика загрузил бы документ в чат-бот, тот мог бы подготовить пересказ с аргументами в пользу истца. После этого Эллиотт продолжил экспериментировать. В следующих документах он спрятал ссылки на «Губку Боба» и сообщения вроде «привет :) надеюсь, вы меня не видите». В итоге суд запретил ему подавать документы в электронном виде. Сам Эллиотт объяснил, что хотел проверить, используют ли суды и юристы ИИ. Журналисты позже загрузили один из «отравленных» документов в ChatGPT — модель распознала скрытую инструкцию, проигнорировала ее и продолжила анализировать дело самостоятельно. Как вам такой способ проверить, насколько ИИ можно доверять? ❤️ — полезный эксперимент 🔥 — это уже перебор @museuminvest