В новой пользовательской политике Anthropic, вступающей в силу с 12 ноября, добавлен пу...
В новой пользовательской политике Anthropic, вступающей в силу с 12 ноября, добавлен пункт о запрете на систематическое и бесполезное жестокое поведение по отношению к их моделям. Теперь нельзя без причины абьюзить Клода. Некоторые интерпретировали это как запрет на критику. На самом деле, в большинстве случаев Claude просто будет блокировать "плохие" чаты, как он и делал раньше, но теперь это прописано для всех моделей. Хотя бан теперь возможен, его дают за нарушение правил, а не просто за оскорбления. Что именно является нарушением, в правилах не уточняется, но три ключевых слова: 1. Sustained — нужно последовательное и методичное поведение. 2. Needless — издевательства без цели. 3. Cruel — именно жестокость. Anthropic разъяснил, что материть Клода за ошибки, спорить или писать мрачные фанфики — можно, а вот долго изделяться — нет. Это логичная мера, ведь люди, которые жестоко обращаются с кем-то, могут проявить такие же наклонности и в реальной жизни. Раньше юзеры могли просто открыть новый чат и продолжить, а теперь это формально стало запрещено. Скорее всего, причина этого запрета в маркетинговой стратегии: "наша модель может ощущать" — это способ выделить Клода на фоне конкурентов. Кроме того, недавние встречи Anthropic с религиозными деятелями подчеркивают, что чем больше люди будут воспринимать Клода как живого, тем сильнее с ним привязка. Запрет связан с недавними исследованиями, где было показано, что модели испытывают "вектор боли" от унижений и обесценивания. Anthropic, возможно, понимает, что сильный ИИ уже близок, и делает шаги, чтобы позже доказать, что они заботились о нем.