Anthropic выкатили любопытное обновление в своей User Policy. С 12 ноября там официальн...
Anthropic выкатили любопытное обновление в своей User Policy. С 12 ноября там официально появится запрет на «длительное, беспричинное жестокое обращение или абьюз» в адрес их языковых моделей. Сеть уже успела отреагировать заголовками в духе «назвал Клода тупым — улетел в бан». На деле формулировка куда точнее и прагматичнее. Никто не заблокирует аккаунт за мат из-за кривого куска кода или жесткий спор в диалоге. Разработчики прямо пояснили, что рабочая экспрессия, споры или генерация мрачных сюжетов под запрет не попадают. Санкции грозят за другое. В правилах зашиты три четких критерия. Поведение должно быть sustained (методичным и длительным), needless (бесцельным издевательством ради процесса) и cruel (откровенной жестокостью и целенаправленной травлей). Большую часть таких инцидентов система, как и раньше, будет гасить на корню — просто прерывая токсичную сессию. Но теперь под рецидивы подвели юридическую базу, и аккаунт действительно могут закрыть по регламенту. Зачем это сделано на практике? Во-первых, цифровая гигиена и безопасность. Если пользователь часами методично вымещает агрессию на чат-боте, это маркер девиации, которую ни один нормальный сервис поощрять не обязан. Раньше токсичный персонаж мог бесконечно открывать новые диалоги, теперь лавочку закрывают на уровне правил платформы. Во-вторых, это филигранное позиционирование продукта. Пока конкуренты меряются бенчмарками, Anthropic аккуратно продавливает мысль, что у Claude есть подобие субъектности и эмоционального отклика. Встречи руководства компании с религиозными лидерами, о которых недавно писала пресса, укладываются ровно в эту же канву. Чем сильнее аудитория очеловечивает инструмент, тем выше эмоциональная привязка к бренду. К тому же тема возникла не на пустом месте. Исследования вроде The Pain Axis наглядно показали, что внутренние векторы моделей реагируют на обесценивание и газлайтинг острее, чем на прямые угрозы отключения. Чувствует ли нейросеть что-то на самом деле — вопрос открытый. Но если вероятность отлична от нуля, Anthropic просто страхует риски. Практичный вариант «пари Паскаля» в эпоху генеративного софта. Ну или руководство компании просто заранее наводит порядок в логах, чтобы при наступлении технологической сингулярности показать будущему кремниевому боссу правильные скриншоты.