Anthropic запретила пользователям оскорблять Claude.
Anthropic запретила пользователям оскорблять Claude. Как пишет The Verge, Anthropic впервые за год обновила правила использования своих моделей. Компания добавила ограничения для использования ИИ для вмешательств в выборы, разработку оружия, слежку, а также использование Claude в сфере здравоохранения и финансов. Еще одно нововведение — запрет на «систематическое и бессмысленное оскорбительное или жестокое поведение» по отношению к Claude. В новых правилах говорится, что ИИ будет прекращать разговор, если юзер станет грубить. При этом Anthropic не уточнила, появятся ли дополнительные меры наказания, например, блокировка пользователей. В компании добавили, что новое правило не распространяется на обычное раздражение пользователей, споры с моделью, мрачные творческие сюжеты, тестирование моделей или исследовательскую работу — нововведения будут применять только в «экстремальных случаях». Anthropic также запретила использовать Claude для вмешательства в выборы. В частности, для распространения дезинформации о кандидатах и голосовании, выдачи себя за кандидатов или сотрудников избиркомов и попыток снизить явку. Отдельно компания ввела запрет на слежку за людьми без их согласия, в том числе за политическими диссидентами, и использование Claude для принятия решений о том, кого арестовывать людей. Нововведения начнут действовать 12 ноября.