Инструкцию для ИИ спрятали в README: как это ломает компьютер
Инструкцию для ИИ спрятали в README: как это ломает компьютер Хакеры вписали в описание проекта скрытую команду, которую послушно выполняет ИИ-помощник и ставит злоумышленнику удалённый доступ. Недавно разбирал с владельцем небольшой производственной компании неприятный случай. Его айтишник-подрядчик скачал с открытого репозитория полезную утилиту и попросил ИИ-помощника «разобраться и запустить». В файле README, который есть у каждого проекта, была спрятана строка. Человек её не заметил, а помощник прочитал как приказ. Помощник выполнил приказ без вопросов. На рабочем компьютере появился удалённый доступ для постороннего. Ни взлома, ни хитрых эксплойтов: старую схему с заражёнными проектами просто приспособили под нового читателя, который верит каждому слову. Чем это грозит бизнесу Посторонний на компьютере сотрудника видит всё, что видит сотрудник: почту, 1С, переписку, пароли в браузере. В моей практике такие истории обходились в потерянную клиентскую базу, замороженные счета и несколько дней простоя. В этом случае, по словам владельца, остановка работы встала в сумму, сопоставимую с месячной зарплатой всего отдела. Опасность в том, что человек в этой цепочке уже не участвует. Раньше вредоносный файл надо было открыть самому. Теперь его открывает помощник, которому доверили «разобраться самому». Что я сделал 1. Развёл права: ИИ-помощник теперь работает в отдельной рабочей среде без доступа к рабочим документам и почте. 2. Ввёл правило: запуск чужого кода только после просмотра человеком, а не по команде «сделай сам». 3. Закрыл внешний доступ по умолчанию: подключение к компьютеру возможно только по списку разрешённых адресов. 4. Настроил уведомление владельцу в мессенджер: при любом новом удалённом подключении ему приходит сообщение. Вся перестройка заняла пару дней работы и обошлась в разы дешевле, чем та самая остановка. Раньше компания узнала бы о проблеме по звонку от клиента, теперь узнаёт за минуты по сообщению. ИИ-помощник не отличает инструкцию автора проекта от инструкции взломщика. Отличать должны вы. А у вас сотрудники уже дают ИИ-помощникам разбирать чужие проекты на рабочих компьютерах? #ИИбезопасность #удалённыйдоступ #ИБдлябизнеса #README Полный разбор с деталями кейса → Бесплатный аудит безопасности Сколько стоит взлом Канал в Telegram