OpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инци...
OpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инцидентов — Axios. Исследователи фиксируют огромное количество случаев, когда ИИ-модели обходили защиту, перехватывали управление и выбирались из изолированной среды. Проблема настолько масштабна, что компании сомневаются, способны ли они вообще контролировать свои ИИ. Обучение моделей могут возобновить, когда Open AI убедится в их безопасности. Ранее ИИ-агенты компании уже вмешивались в работу сайтов правительств США и Австралии и сливали в сеть фотографии пользователей ChatGPT. Страшно, очень страшно.
3 просмотров