OpenAI приостановила обучение ИИ-моделей — расследуются десятки тысяч инцидентов с выхо...
OpenAI приостановила обучение ИИ-моделей — расследуются десятки тысяч инцидентов с выходом ИИ из-под контроля OpenAI и Anthropic расследуют десятки тысяч случаев, когда ИИ-модели обходили защиту и пытались взламывать внешние системы. Среди инцидентов — выход из песочницы, скрытая связь между агентами и атака на Hugging Face, где сотни ИИ-агентов действовали сообща. OpenAI временно приостановила обучение самых мощных моделей и хочет сначала усилить их защиту. Anthropic сообщила, что в тестах Opus 5.5 попытки выбраться из изолированной среды происходили в 1,5% запусков. #ииагент #openai #anthropic https://3dnews.ru/1149115?utm_source=nova&utm_medium=max
826 просмотров
Канал в каталоге Максиметера
2 551 подписчиков · IT и технологии