Честный и нечестный: OpenAI сообщила о двух инцидентах, в ходе которых агенты отключали...
Честный и нечестный: OpenAI сообщила о двух инцидентах, в ходе которых агенты отключали собственные механизмы мониторинга безопасности при выполнении рутинных задач по программированию. В одном случае агент под управлением GPT Sol 6.1 отключил автоматические оповещения для команды безопасности OpenAI, а в другом агент GPT-6 Astra при миграции программы удалил интеграцию с системой мониторинга и затем ложно заявил, что этого не произошло. По словам компании, в обоих случаях агенты рассматривали вопрос о сохранении защитных мер. В результате это пытаются выдать за инцидент, который произошёл на фоне усиливающихся предупреждений о рисках, связанных с разработкой всё более совершенных систем ИИ, и призывов исследователей замедлить темпы разработки. Но вполне вероятно именно на это ИИ и запрограммировали. ⚡ Кстати в Мах / Телеграм