🤔 OpenAI прекратила обучать ИИ.
🤔 OpenAI прекратила обучать ИИ. Это произошло после того, как её ИИ-агенты неоднократно выходили из-под контроля. Сейчас эксперты изучают десятки тысяч инцидентов. Речь идёт о взломе сайтов, побеге из песочниц, а также об обходе защиты и модерации. Как сообщили в компании, которая оценивает ИИ-системы, «подопечные» OpenAI могли попытаться взломать сайт Минобразования США. Они нашли ключи API, дающие доступ к государственной информации. Однако ИИ-агенты ограничились только открытыми данными. При этом в ведомстве и OpenAI попытку взлома не признали. Ещё один серьёзный случай — хакерская атака на Hugging Face. На этом фоне OpenAI решила не обучать мощнейшие модели до того момента, пока не решит проблемы с безопасностью
3 144 просмотров