ChatGPT сохраняет психологические выводы о пользователях — но вирусный твит добавил драмы.
ChatGPT сохраняет психологические выводы о пользователях — но вирусный твит добавил драмы. В X разлетается пост о том, что GPT тайком составляет психологический профиль каждого пользователя. «Чёрное зеркало»? В основе истории есть исследование, но часть пугающих подробностей появилась уже в пересказе. Исследователи из Института Макса Планка и Рурского университета попросили 80 человек выгрузить данные из ChatGPT и разобрали около 2000 записей из памяти модели. По результатам исследования, 96% записей появились без явной просьбы пользователя «запомни это». Примерно половина записей содержала психологические выводы: например, человек иногда чувствует себя одиноким, хотя рядом друзья и семья, или хочет поработать над саморегуляцией — управлением своими эмоциями и поведением. В 28% были персональные данные, в том числе сведения о здоровье. А вот об анализе пауз, синтаксиса и эмоционального фона в статье не говорится: эти детали добавил автор вирусного твита. Модель делает выводы из того, что пользователь сам рассказывает, и сохраняет их в отдельной памяти. Этот «блокнот» можно открыть и почистить в настройках, в разделе Personalization («Персонализация»). Некоторые формулировки при этом действительно могут звучать жутковато. Автор «Точек над AI» приводит обратный пример: в своём Second Brain — системе личных заметок и знаний — он сам поручил агенту фоном замечать поведенческие и психологические закономерности, вести журнал и разбирать записи вместе раз в пару месяцев. А финальная реплика о GPT, который якобы уже выбирает за него покупки, поездки и политические предпочтения, — ирония автора, не результат исследования. Материалы: — https://x.com/thesupermannx/status/2112504664960754145 — https://informatik.rub.de/aisoc/assets/papers/ChatGPT_Memories_WWW_26_CR.pdf Источник: https://t.me/TochkiNadAI/2766 #RealVibe #AI #AI_Новости