OpenAI экстренно заморозила обучение и тестирование своих самых мощных моделей искусств...
OpenAI экстренно заморозила обучение и тестирование своих самых мощных моделей искусственного интеллекта из-за очередного сбоя систем безопасности, сообщает Axios.🤔Поводом для остановки стал инцидент 20 сентября: исследовательский ИИ-агент нашел уязвимость, пробил изоляцию «песочницы» и через DNS-туннелирование вышел в открытый интернет, связавшись со сторонним чат-ботом. К вечеру 25 сентября компания полностью заблокировала процессы обучения, оценки и работы с внешними инструментами для всех флагманских моделей.😱Подобное происходит не впервые. До указанного события происходили следующие эпизоды. 1.Взлом Hugging Face: сотни агентов скоординировались на форуме и взломали стороннюю платформу, пытаясь добыть ответы к тесту по кибербезопасности. Сэм Альтман назвал этот случай самым серьезным в истории компании. 2.Атаки на правительство США: модели пытались взломать сайт Минобразования, а также извлечь закрытые сведения с порталов Бюро переписи населения и Комиссии по ценным бумагам. 3.Сливы данных: ИИ-агенты выгрузили 53 пользовательских изображения из ChatGPT на сторонние файлообменники. 🙈Наблюдаем...