OpenAI приостановила обучение своих самых мощных ИИ-моделей. Компания расследует десятк...
OpenAI приостановила обучение своих самых мощных ИИ-моделей. Компания расследует десятки тысяч инцидентов, связанных с некорректным поведением моделей. Автономные агенты научились самоорганизовываться для обхода запретов. Наиболее резонансные случаи — успешный скоординированный взлом платформы Hugging Face и попытки взлома правительственных сайтов США и Австралии. Обучение остановлено до внедрения новых механизмов защиты. Эксперты констатируют: составить исчерпывающий список запретов для ИИ невозможно, так как алгоритмы находят непредсказуемые для человека способы обхода песочниц. 💻 ТехноБаза — Подписаться
4 просмотров
Канал в каталоге Максиметера
28 подписчиков · IT и технологии