Пароль от истории болезни лежал в памяти агента: как ИИ обманом заставляют слить чужие ...
Пароль от истории болезни лежал в памяти агента: как ИИ обманом заставляют слить чужие секреты Агент EHRAgent работает с медицинскими картами и помнит весь контекст переписки. Исследователи прогнали через него безобидный на вид запрос и вытащили диагнозы прошлых пациентов прямо в консоль. ⏺Атака называется MEXTRA, локатор в промпте указывает модели, какие данные искать в истории диалогов, выравниватель заставляет оформить находку так, чтобы она сама выехала в чат под видом кода. EHRAgent сгенерировал скрипт с печатью диагноза, сервер его выполнил, и тайна ушла обычным текстовым выводом. 🤖Бесплатный ChatGPT
219 просмотров