Иногда новости про ИИ читаешь как детектив, а заканчиваются они главой из учебника по в...
Иногда новости про ИИ читаешь как детектив, а заканчиваются они главой из учебника по веб-гигиене. 20 октября стало известно, что Meta временно отключила в своём ИИ-агенте Muse функцию обмена беседами по веб-ссылке. Причина — утечка, которую нашли исследователи безопасности из Claroc. Механика простая до неприличия. Muse формировал адрес расшаренной беседы из её же заголовка. Заголовок становился поддоменом, поддомен попадал в публичный DNS. Дальше — один запрос к базам пассивного DNS, и у тебя на руках список чужих разговоров, отсортированный по названиям. Как оглавление чужого личного архива. Исследователи насчитали около 6800 таких ссылок. В самих беседах — время встреч, кредитные заявки, банковские предупреждения о подозрительных операциях с частью реквизитов, внутренние документы компаний. Меня зацепило не масштаб, а тип ошибки. Это не взлом, не хитрый эксплойт и не «дыра в модели». Это забытая базовая вещь: если что-то попадает в DNS, оно попадает в индекс, а значит — в чью-то выборку. Мы годами объясняем клиентам, что сайт нельзя прятать за «неугадываемый URL». А тут ровно тот же урок, только на стороне ИИ-продукта. Meta отреагировала: функцию приостановили, а ссылки, которые уже успели открыть, перестали работать. Компания говорит, что изучает отчёт и думает, как менять обнаружимость ссылок. Что я вынес для себя. Первое: кнопка «поделиться» в любом ИИ-инструменте — это публикация, а не приватный жест. Второе: прежде чем отдавать агенту клиентские документы, стоит понимать, что он с ними делает и куда пишет. Третье: если на сайте есть шаринг с человекочитаемыми адресами, пройдитесь по нему руками — «удобно» и «безопасно» часто стоят на разных полках. И главное: чем больше мы пускаем ИИ в рутину, тем дороже становятся скучные инженерные привычки. Не промпты и не модели — гигиена. Проверка того, что уходит наружу. Понимание, где заканчивается приватное. А вы бы доверили агенту свои рабочие документы? И если да — с какими оговорками?