OpenAI предложила правила независимой проверки AI
OpenAI предложила правила независимой проверки AI Проверять предлагают четыре вещи: доказательства безопасности моделей, работу защитных механизмов, качество самих тестов и причины серьёзных инцидентов. Например, действительно ли ограничения мешают агенту совершать опасные действия и не поощряет ли обучение обман или обход правил. Проверки могут занимать недели или месяцы и в основном не привязаны к выпуску конкретной модели. Обязательного разрешения аудиторов перед каждым релизом документ не вводит. Компании смогут просить скрыть чувствительные сведения в отчёте, а проверяющие могут писать, как это повлияло на их отчёт. OpenAI уже обсуждает предложения с несколькими независимыми организациями. https://openai.com/index/priorities-principles-third-party-assessments