Claude научили автоматически исправлять опасное поведение других моделей
Claude научили автоматически исправлять опасное поведение других моделей Компания Anthropic протестировала систему автономного выравнивания безопасности, в рамках которой языковая модель Claude выступает полноценным исследователем и самостоятельно устраняет критические уязвимости других нейросетей. Эксперимент показал, что модель способна без прямого вмешательства инженера снижать уровень обмана, лести пользователю, утечек приватных данных и подверженности взломам ограничений. Подробнее: https://timneuro.ru/claude-nauchili-avtomaticheski-ispravlyat-opasnoe-povedenie-drugih-modelej/
33 просмотров