Популярные системы управления ИИ оказались абсолютно беззащитными
Популярные системы управления ИИ оказались абсолютно беззащитными #ai #github #уязвимость Проверка популярных фреймворков для ИИ-агентов показала системные проблемы с безопасностью доступа. Команда Grantex Research изучила 30 открытых проектов с совокупной популярностью более 500 тысяч звёзд на GitHub и пришла к выводу, что почти все решения используют примитивные схемы авторизации, которые не позволяют контролировать действия агентов и отслеживать их поведение. Анализ затронул такие параметры, как разграничение прав, наличие уникальной идентичности агента, согласие пользователя, отзыв доступа, аудит действий и контроль делегирования. Результаты оказались тревожными. В 93% случаев разработчики ограничиваются API-ключами без ограничений по правам. Такие ключи хранятся в переменных окружения и дают агенту полный доступ ко всем операциям от имени владельца. Ограничить действия агента, задать срок действия доступа или указать конкретный контекст невозможно. LH | OSINT | Курсы | News