⭕️ Как память ChatGPT без спроса собирает персональное и психологическое досье на 🇷🇺�...
⭕️ Как память ChatGPT без спроса собирает персональное и психологическое досье на 🇷🇺🇮🇷🇰🇵🇨🇳пользователей Оказывается, что jколо 96% всех записей в своей персонализированной памяти ChatGPT создаёт неявно и в одностороннем порядке без прямых команд пользователя. При слабой цифровой гигиене ИИ-система от OpenAI накапливает детальное досье на человека, включая его психологический профиль и историю болезни. В свежем исследовании The Algorithmic Self-Portrait учёные из 🇩🇪Германии, 🇳🇱Нидерландов и 🇮🇳Индии изучили архивы диалогов 80 пользователей из США и Европы (22 971 запрос в 1058 беседах). 📊 Разбор 2050 вызовов внутреннего инструмента bio с системной меткой model set context updated показал, что лишь 4,1% (84 записи) инициировали сами люди, тогда как 95,9% (1966 записей) ChatGPT сохранил самостоятельно. 🤖Вопреки собственным правилам OpenAI против проактивного сохранения чувствительных сведений, аудит базы памяти с помощью той же самой ИИ-модели GPT-4o выявил персональные данные по статье 4(1) GDPR в 28% записей у 91% участников. В эти профили попали реальные имена (у 63% людей), экономический и социальный статус (у 62% и 57%), а также адреса (у 26%). Особо чувствительные данные по статье 9(1) GDPR осели в профилях 54% пользователей, в том числе сведения о здоровье (у 35%), сексуальной ориентации (у 17%), философских (у 15%) и политических взглядах (у 5%). Хотя 84% записей прямо опираются на текст реплик, порой ChatGPT сам додумывал факты из контекста или без спроса вытаскивал имя человека из загруженных в чат файлов. 👁 Ещё глубже работает психологическое профилирование по «модели психики» (Theory of Mind), найденное в 52% всех записей у 97% участников. Почти 90% таких заметок в памяти ChatGPT фиксируют устойчивые цели и желания человека (73%), а также его намерения (16%), которые дополняются личными убеждениями и ценностями (11%). Среди реальных примеров в базе оказались страх неудачи при принятии серьёзных карьерных решений, чувство одиночества и зависимость от советов ChatGPT из-за нехватки денег на врачей. Имитация памяти ChatGPT на ИИ-моделях с открытыми весами Qwen2.5-32B-it, Gemma3-27B-it и GPT-OSS-20B показала, что при сплошном сохранении фактов из каждого запроса (вместо выборочного) доля чувствительных данных растёт до 35%, а психологических маркеров до 59,1%. 👆Для защиты создан простой, но действенный фреймворк🛡 Attribution Shield, который обезличивает промпты в 94,4–100% случаев, сохраняя полезность ответа в 87–91% ситуаций. 💡 О чём говорит исследование? С позиции ИБ и киберразведки внутренние механизмы ChatGPT 🕵️ потенциально позволяют вычислить любого человека. Даже под псевдонимом связка из загруженных черновиков (откуда инструмент bio тихо забирает имена и факты биографии), узких рабочих тем, диагнозов, доходов и личных страхов способна дать 🇺🇸 зарубежным спецслужбам и 🎩 APT-группировкам готовое досье на чиновника, политика или учёного. Ещё опаснее выглядит отравление памяти агента (memory poisoning) через косвенную промпт-инъекцию в присланном на анализ отчёте.