OpenAI начала обучать модели ИИ в офлайн-формате, говорится в сообщении на сайте компании.
OpenAI начала обучать модели ИИ в офлайн-формате, говорится в сообщении на сайте компании. «Мы существенно усилили безопасность наших исследовательских сред. Тесно сотрудничая с облачными провайдерами, мы добавили новые средства контроля по всей нашей инфраструктуре <...> Улучшили наши методы обнаружения несоответствующего поведения», – говорится в сообщении. OpenAI подчеркнула, что благодаря усилению защиты она продолжает действовать «даже в случае отказа отдельного средства контроля». Данную стратегию компания назвала эшелонированной защитой. ➡️ 21 октября OpenAI сообщила о случаях, когда ее ИИ-агенты ослабляли и отключали оповещения внутренней системы мониторинга, которая должна сигнализировать о некорректном поведении моделей.
2 998 просмотров