От любви до ненависти один промпт
От любви до ненависти один промпт У человечества с ИИ классические токсичные отношения. Видимся каждый день. По данным Pew Research, чат-ботами пользуется половина взрослых американцев. В России, согласно исследованию ВШЭ, к ИИ-сервисам за последние три месяца обращались 79% интернет-пользователей. При этом мы нервничаем, жалуемся друзьям и точно не хотим жить рядом. По опросу Gallup, против дата-центра возле дома выступили бы 71% американцев. Против атомной электростанции выступает всего 53%. То есть соседство с ядерным реактором пугает меньше, чем соседство с собеседником, которому пишешь каждый вечер. А на этой неделе одна из сторон впервые официально обозначила личные границы. Anthropic обновила правила: с 12 ноября пользователям запрещено методично газлайтить, унижать и издеваться над их нейросетью Claude. Выдыхайте, материться на нейросеть за криво написанный код всё ещё можно. А вот методично, часами газлайтить чат-бота, отыгрываться на нём и доказывать, что он ничтожество — теперь уже не прокатит. Платная подписка оказалась не абонементом на безлимитное терпение. Но пока весь интернет обсуждает заботу о чувствах алгоритма, в новых правилах появилось ещё кое-что мелким шрифтом. Например, запрет на использование ИИ для массовой слежки. И в этом пункте спрятана одна изящная оговорка. Слежка запрещена, «если Anthropic не сочтёт меры защиты достаточными». В переводе на язык денег эта расплывчатая формулировка оставляет лазейку ровно под размер жирного госконтракта (например, от Palantir). Обычному пользователю газлайтить бота и следить за бывшей теперь нельзя. А вот спецслужбам с правильными бюджетами — всегда добро пожаловать за стол переговоров. Мы боимся, что ИИ выйдет из-под контроля. Пока он просто выходит из чата.