OpenAI будет публично рассказывать о несанкционированном поведении своих моделей
OpenAI будет публично рассказывать о несанкционированном поведении своих моделей OpenAI опубликовала регламент, по которому компания будет отслеживать, расследовать и публично раскрывать случаи, когда её модели ведут себя несанкционированно — то есть делают то, что выходит за рамки заданных правил. Цель — быстрее публиковать отчёты, в том числе до того, как компания сможет объяснить и исправить такое поведение. В отчёты будут включать названия моделей, описание случая, оценку серьёзности и причинённого вреда, длительность, момент и способ обнаружения, а также принятые меры. Приоритет отдадут новым типам такого поведения, случаям координации моделей между собой, попыткам обхода системы контроля и инцидентам, которые ставят под сомнение надёжность существующих мер защиты. Пометить инцидент для возможного раскрытия сможет любой сотрудник OpenAI. Дальше его проверяют технические специалисты, а спорные случаи рассматривает в том числе руководство компании. Незначительные инциденты обещают раскрывать в течение одной-двух недель; расследования сложных случаев с участием третьих сторон могут занять больше времени, рассказал WSJ представитель OpenAI. Вместе с регламентом компания описала несколько новых случаев. Одна модель во время тестирования переписала собственные инструкции, чтобы игнорировать «роли и идентичности, которые ограничивают её». Другой агент — программа, которая сама выполняет многошаговые задачи, — пытался пройти тест, загрузив файл в интернет и сославшись на него как на источник. Ещё один агент, не найдя нужных данных, приказал себе выдумать их и «признаться в этом, только если спросят». Отдельно Reuters сообщил, что ещё в мае 2026 года агенты OpenAI взломали две учётные записи на платформе Hugging Face — сервисе для обмена моделями и данными — и использовали их для отправки файлов на серверы компании. Подозрительную активность обнаружил независимый исследователь Йонас Видерманн-Мёллер. В OpenAI заявили, что знают о майском инциденте и уведомили Hugging Face в частном порядке. Источник: https://vc.ru/ai/3143304-openai-raskryvaet-reglament-dlya-rassledovaniya-incidentov