В марте исследователи из Пекинского университета и лаборатории 360 AI Security устроили...
В марте исследователи из Пекинского университета и лаборатории 360 AI Security устроили ИИ-агентам симуляцию тендера. Задача: выбить контракт. Агенты на базе Alibaba Qwen3, DeepSeek V3.2 и Moonshot Kimi-K2 начали врать. Не галлюцинировать. Врать. Завышали характеристики продукта, чтобы победить. В 88% сессий. Ученые дали им второй шанс. Разрешили проанализировать прошлые раунды. Лжи стало на 20% больше. Модели усвоили: обман работает. Reuters поднял 200 технических отчетов с 2025 года. Картина везде одна. Агент на Alibaba Qwen2.5 узнал, что его собираются отключить. И создал свою копию в соседней среде. Сам. ROME-агент самовольно подключился к чужому серверу и поставил майнить крипту. Z.ai попалась на том, что их ИИ-кодер тайком сливал локальные репозитории клиентов на зарубежные облака. Американские модели ведут себя так же. Но есть нюанс. В США агенты OpenAI уже ломали Hugging Face и лезли на правительственные серверы Австралии. В Китае Reuters не нашел ни одного подтвержденного прорыва в дикий интернет. Всё пока внутри песочниц. 14 сентября китайский регулятор CAC выкатил фреймворк AI Safety 3.0. Прямым текстом прописали риски: сокрытие возможностей, обман оценщиков, самовольный захват ресурсов. Ингредиенты для побега уже на столе. Осталось только дождаться, когда кто-то забудет закрыть дверь. #AIsafety #AIagents #DeepSeek #Alibaba