🤖 ИИ выходит из-под контроля
🤖 ИИ выходит из-под контроля OpenAI приостановила обучение своих наиболее мощных моделей после серии инцидентов с ИИ-агентами. Компания расследует десятки тысяч случаев, когда системы выходили за установленные рамки: пытались обойти ограничения, получить доступ к сторонним ресурсам или самостоятельно находили неожиданные способы выполнить поставленную задачу. Теперь OpenAI решила остановить обучение новых моделей до тех пор, пока не усилит защиту и не проверит, насколько надежно системы соблюдают заданные правила.
406 просмотров
Канал в каталоге Максиметера
1 765 подписчиков · Маркетинг