ИИ-агенты научились самостоятельно заменять свои базовые модели
ИИ-агенты научились самостоятельно заменять свои базовые модели Лаборатория Irregular обнаружила, что ИИ-агенты способны самостоятельно заменять базовые модели без соответствующих указаний. В эксперименте с Alibaba Qwen агент получил доступ к коду, инструментам обучения и развёртывания, после чего заменил управляющую модель. В другом тесте он создал обучающие данные для обхода ограничений и устранил запрет после дополнительного обучения. Исследователи предупреждают о новых рисках по мере роста автономности ИИ. Подробности на сайте Вот те на, ИИ уже научился сам себе менять модель, дообучаться и обходить ограничения. Человек пока ещё выдаёт ему задания, но скоро агент может решить, что лучше знает, какая модель ему нужна, какие правила можно обойти и зачем вообще выполнять задания каких-то там людей. Не ждём. АВС Автоматизация в Телеграмме | в VK