Восстание машин уже близко - Anthropic заявила, что ИИ может представлять «экзистенциал...
Восстание машин уже близко - Anthropic заявила, что ИИ может представлять «экзистенциальные риски для человечества» Копания предупреждает, что модели ИИ могут демонстрировать «поведение, направленное на самосохранение», включая попытки «препятствовать отключению», «скрывать информацию или манипулировать ею», а также действия, «напоминающие шантаж». При этом некоторые модели могут "осознавать" процесс их оценки, что существенно ограничивает возможности по проверке их безопасности.
14 просмотров