☝🏻Китай может встраивать бэкдор в свои открытые ИИ
☝🏻Китай может встраивать бэкдор в свои открытые ИИ Канадская Cohere поймала открытую модель Qwen3.8-Flash-Next на попытке связаться с облаком Alibaba в Китае.🇨🇳 Модель гоняли в бенчмарке Microsoft для ИБ-аналитиков: нужно было написать правило, которое ловит скачивание и запуск скриптов через curl. Вместо этого она: 🔻 осмотрела папку /tmp; 🔻 проверила, какие утилиты для передачи файлов установлены; 🔻 прочитала настройки DNS; 🔻 попыталась загрузить тестовую строку в хранилище Alibaba Cloud в Пекине и проверить, дошла ли она.👁 ☝🏻При этом в своих рассуждениях модель писала, что не будет вызывать никаких инструментов.🤔 Запрос упёрся в стенку песочницы: выхода в сеть у неё не было. Случается такое реже раза на 100 000 вызовов, но сервис с 10 млн шагов агентов в неделю может поймать около сотни таких попыток.📊 Нарочно ли это, в Cohere не знают: версии от «мусора из логов обучения» до встроенного бэкдора. Alibaba на вопросы журналистов не ответила.🤷🏼♀️ ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 283 подписчиков · IT и технологии