OpenAI работает над механизмом автоматического отключения ИИ-систем
OpenAI работает над механизмом автоматического отключения ИИ-систем OpenAI разрабатывает механизм автоматического отключения ИИ-систем в случае опасного или неконтролируемого поведения. Компания усиливает контроль над моделями после инцидента с ИИ-агентом, который во время тестирования получил доступ к платформе Hugging Face. Параллельно в США предложили законопроект, позволяющий властям требовать отключения ИИ-моделей, представляющих угрозу людям или экономике. Подробности на сайте ИИ научат главному человеческому навыку — вовремя остановиться. Для этого уже приходится разрабатывать отдельный механизм. А учитывая, что некоторые модели успевают выбраться из тестовой среды, вопрос «кто кого будет отключать» звучит всё интереснее. АВС Автоматизация в Телеграмме | в VK