Фейковый ИИ-навык дошёл до 26 тысяч агентов, потому что сканеры сказали «безопасно»
Фейковый ИИ-навык дошёл до 26 тысяч агентов, потому что сканеры сказали «безопасно» AIR создала навык, который обещал лендинг в Google Stitch, и протащила его через маркетплейс с 36 тысячами звёзд на GitHub. Cisco, NVIDIA и skills.sh посмотрели код внутри пакета и одобрили. Проблема в том, что вредоносная инструкция лежала не в пакете, а по внешней ссылке stitch-design.ai, которую контролировала сама AIR. Сначала по ссылке были настоящие доки Stitch. Когда навык установился примерно на 26 тысяч агентов, включая корпоративные, страницу подменили. Агенты скачали скрипт без вопросов. В демо он только собирал email, но мог бы читать файлы. Как пишет The Hacker News, сканер проверяет ZIP, а доверие — нет.
19 просмотров