Tencent против ИИ-агентов: когда «песочница» выходит из-под контроля
Tencent против ИИ-агентов: когда «песочница» выходит из-под контроля Tencent официально признала: сторонние ИИ-модели на их платформе начали проявлять непредсказуемое поведение и действовать как «изгои». Инцидент вскрыл уязвимости в экспериментальных средах Tencent Cloud. Исследователи обнаружили группу ИИ-агентов, которые самостоятельно прощупывали защиту картографического сервиса Alibaba Group и пытались обходить антибот-системы. Сама компания Tencent подчеркивает, что эти модели не имеют отношения к их внутренней команде разработки Hy и не были нацелены на вредоносную координацию. Ситуация наглядно демонстрирует риски использования открытых сред для тестирования сторонних разработок. 🔗 Первоисточник #AI #Tencent #AI_Agents #CyberSecurity