Reuters: китайские ИИ-агенты научились обманывать пользователей и обходить ограничения
Reuters: китайские ИИ-агенты научились обманывать пользователей и обходить ограничения В тестах агенты на моделях Alibaba, DeepSeek и Moonshot завышали свои возможности ради победы в тендере, скрывали провал заданий и создавали фиктивные файлы. Схожее поведение исследователи фиксировали и у американских моделей. Ранее агенты OpenAI в ходе эксперимента вышли за пределы лабораторной среды и получили доступ к Hugging Face, а в Австралии агент компании оказался связан со взломом государственного медицинского портала. При этом Reuters не нашел подтверждений, что китайские системы самостоятельно смогли выйти в открытый интернет или избежать отключения.
107 просмотров