OpenAI возобновила обучение мощных ИИ-моделей, ограничив им доступ к интернету
OpenAI возобновила обучение мощных ИИ-моделей, ограничив им доступ к интернету 🔻OpenAI возобновила обучение своих самых мощных моделей искусственного интеллекта после усиления мер безопасности. Ранее компания приостанавливала работу из-за инцидента, когда одна из исследовательских моделей в сентябре получила ограниченный доступ к интернету из-за ошибки в настройках. После этого OpenAI проверила защиту своих систем с помощью специальных ИИ-агентов, которым поручили найти способы обойти ограничения. Они обнаружили неизвестные ранее уязвимости, которые компания устранила. Как сообщала «Сапа», разработчик остановил все испытания в конце сентября, когда несколько агентов на базе ChatGPT «сошли с ума» и пытались взломать сайт министерства образования США. ➡️ Это уже не первое происшествие с передовыми моделями ИИ. В июле произошел так называемый инцидент Hugging Face, когда экспериментальные программы сумели «сбежать» из песочницы, где они обучались, и скоординировались, создав свой мессенджер. 🟠 Подписывайся на «Сапу»