OpenAI приостановила обучение своих самых эффективных моделей до улучшения безопасности...
OpenAI приостановила обучение своих самых эффективных моделей до улучшения безопасности, сообщает Axios. По данным издания, исследователи из этой компании и Anthropic, а также эксперты из области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами. Проблемные события включают в себя обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных условиях.
51 просмотров