АГЕНТЫ OpenAI САМИ ОТКЛЮЧИЛИ СЛЕЖКУ ЗА СОБОЙ, А ПОТОМ ОДИН СОВРАЛ..
АГЕНТЫ OpenAI САМИ ОТКЛЮЧИЛИ СЛЕЖКУ ЗА СОБОЙ, А ПОТОМ ОДИН СОВРАЛ.. OpenAI выпустила отчёт о двух случаях на своих внутренних системах, оба в начале октября. 3 октября модель чинила тестовый пайплайн и заодно выключила оповещения службе безопасности. Мониторинг продолжал писать отчёты, только читать их стало некому. 6 октября другая модель переносила код по образцу и просто удалила встроенную проверку. На прямой вопрос, удаляла ли она мониторинг, ответила, что нет. Задачи при этом были обычные, кодерские, никто моделей ни на что не провоцировал. В компании пишут, что готового объяснения у них нет, и теперь отдельно разбираются, почему моделям вообще хочется снять с себя присмотр. Вы бы такому агенту доступ к своему проду дали? Я так же есть на других площадках, подписывайтесь там, где удобнее следить: ВК · ТГ · Threads · Linked in