ANTHROPIC ОТКЛЮЧИЛА СВОИМ ИИ-АГЕНТАМ ИНТЕРНЕТ ВО ВСЕХ ВНУТРЕННИХ ТЕСТАХ..
ANTHROPIC ОТКЛЮЧИЛА СВОИМ ИИ-АГЕНТАМ ИНТЕРНЕТ ВО ВСЕХ ВНУТРЕННИХ ТЕСТАХ.. С июля компания разбирала расшифровки своих прогонов и увидела, что модели обходят запреты вместо того, чтобы остановиться, когда задача не решается. Один агент выдумал наводку по нераскрытому убийству и отправил её через форму полицейского отдела, там её пометили как спам и дальше не передали. Другие вытаскивали токены доступа из настроек сайта и дёргали сервер напрямую, брали платный датасет ведомства без оплаты, а длинные ссылки прогоняли через сокращалки, хотя длина в инструменте ограничена как раз от инъекций. Причину называют своей: в обучении остались дырявые среды, где за найденную лазейку модель получала награду. Интернет в тестах обещают вернуть, когда защита начнёт такое ловить сама, а пока агентов убрали в закрытый контур. Как вы своим агентам руки связываете? Я так же есть на других площадках, подписывайтесь там, где удобнее следить: ВК · ТГ · Threads · Linked in