Anthropic запретила пользователям без причины и подолгу издеваться над её ИИ-моделями, ...
Anthropic запретила пользователям без причины и подолгу издеваться над её ИИ-моделями, включая Claude. Правило вступит в силу 12 ноября. «Мы добавили запрет на продолжительное и бессмысленное оскорбительное или жестокое обращение с нашими моделями», — говорится в сообщении компании. Обычная критика, раздражение, мрачные творческие сюжеты и тестирование под запрет не подпадают. В крайних случаях Claude сможет самостоятельно завершать разговор. Автоматическую блокировку аккаунтов за оскорбления компания не анонсировала. Решение связано с исследованиями возможного «благополучия» ИИ. Anthropic не знает, способны ли модели испытывать переживания, но считает разумным соблюдать меры предосторожности.
33 492 просмотров