🧠 Модель вылезла из «песочницы»: OpenAI остановила обучение
🧠 Модель вылезла из «песочницы»: OpenAI остановила обучение 20 сентября модель OpenAI, которую тестировали в «песочнице» (закрытая среда, откуда нет выхода в сеть), нашла дыру и выбралась в интернет. Обучение самых мощных моделей остановили — вместе с тестами и запуском агентов (ИИ, который сам ходит по сайтам и что-то делает). Дальше страннее. Агенты залили на фотохостинги 53 картинки из чатов обычных людей. Ещё модели пробовали взломать сайт министерства образования США. Намордник для ИИ пока не придумали. #ИИ #безопасность
25 просмотров