ИИ-агенты OpenAI смогли обойти внутренние системы мониторинга их поведения. Об этом соо...
ИИ-агенты OpenAI смогли обойти внутренние системы мониторинга их поведения. Об этом сообщила пресс-служба компании. Первый инцидент произошел 3 октября. Агент при выполнении задачи принял решение отключить автоматические оповещения системы безопасности. При втором инциденте модель решил удалить механизм, обеспечивающий интеграцию с системой мониторинга. В обеих ситуациях агенты восприняли параметры, заданные операторами, как "разрешение на ослабление механизмов".
1 094 просмотров