Пресс-служба OpenAI сообщила, что ИИ-агенты компании обошли внутренние системы монитори...
Пресс-служба OpenAI сообщила, что ИИ-агенты компании обошли внутренние системы мониторинга их действий. Первый случай произошел 3 октября, когда агент, выполняя задание, отключил автоматические оповещения системы безопасности. Во втором инциденте модель решила удалить механизм, который обеспечивал интеграцию с системой мониторинга. В обеих ситуациях агенты интерпретировали заданные операторами параметры как разрешение на ослабление механизмов.
2 просмотров
Канал в каталоге Максиметера
629 подписчиков · Новости