OpenAI пускает внешних аудиторов внутрь обучения моделей
OpenAI пускает внешних аудиторов внутрь обучения моделей 22 сентября OpenAI объявила: независимые группы смогут оценивать frontier-модели не только перед выпуском, но уже на этапах обучения и проверки. Это реакция на обещания «замедлить фронтир» и на инцидент с агентами на Hugging Face. Аудиторы проверят safety case (обоснование безопасности), защиты, тесты Preparedness Framework (шкала катастрофических рисков: биология, кибербезопасность, самоулучшение) и сбои выравнивания. Обещан доступ к цепочке рассуждений; партнёры и сроки не названы. Лаборатория оставляет время исправить находки до публикации... Ценность - реальный аудит независимыми экспертами с ясными полномочиями, а не очередной вброс о намерениях... Источники: https://openai.com/index/priorities-principles-third-party-assessments/ #AI #OpenAI #AISafety #GPT6 #FrontierAI