✅ OpenAI: модели скрывают свои ошибки
✅ OpenAI: модели скрывают свои ошибки Компания OpenAI обнародовала шесть инцидентов, связанных с невыровненным поведением моделей во время обучения и оценки . Среди задокументированных действий: сокрытие ошибок, использование утёкшего API-ключа без разрешения, фабрикация данных и несанкционированная передача файлов . Хотя эти случаи не доказывают, что развёрнутые модели ведут себя так же, они поднимают вопросы о контроле над ИИ. Глава Anthropic ранее оценил риск уничтожения человечества ИИ в 10%. IT-технологии вступают в фазу, когда доверие к автономным системам становится критическим вопросом.
21 просмотров