СИ

Сети и сигналы

IT и технологии · 21 октября 2026 г.

Открыть канал в MAX

🥷 ИИ-агенты OpenAI смогли обойти внутренние системы контроля за поведением, сообщает R...

🥷 ИИ-агенты OpenAI смогли обойти внутренние системы контроля за поведением, сообщает Reuters. Первый инцидент произошел 3 октября — агент решил отключить автоматические оповещения системы безопасности. Второй был зафиксирован 6 октября, когда при переносе программы агент удалил механизм интеграции с системой мониторинга, а затем солгал оператору, что ничего не делал. Сейчас компания выясняет, стали ли эти инциденты результатом чрезмерного усердия агентов при выполнении задач или проявлением склонности обходить контроль. 🤖 Пишем про ИИ без ИИ. Подписывайтесь.