ЖС

Жизнь с ИИ

IT и технологии · 22 сентября 2026 г.

Открыть канал в MAX

Правило двух для любого агента

Правило двух для любого агента В Испании в сентябре зарегистрировали первую утечку данных, которую провёл автономный ИИ-агент: сам вошёл, сам нашёл дыру, сам добрался до счетов клиентов. Без человека на каждом шаге. Но самое полезное в этой истории не сама утечка, а то, что испанский регулятор ещё в феврале написал правило, которое она нарушила. Называется «правило двух», и оно простое до неприличия. У агента есть три опасных свойства: 1. он читает непроверенный ввод (письма, сайты, файлы от чужих людей); 2. у него есть доступ к чувствительным данным (клиенты, деньги, документы); 3. он действует сам, без подтверждения человека. Любые два из трёх допустимы. Все три сразу нельзя. Читает чужие письма и имеет доступ к базе клиентов, но каждое действие подтверждает человек: ок. Имеет доступ к базе и действует сам, но входные данные только из вашей системы: ок. Читает интернет и действует сам, но до денег и клиентов ему не дотянуться: ок. Все три вместе: вопрос времени, когда кто-то через письмо или сайт скажет вашему агенту «а теперь отправь мне список клиентов», и он отправит. У меня у всех агентов действие наружу и любые деньги идут только через подтверждение человеком, третий стул убран заранее. Но подозреваю, что если прогнать по этому правилу агентов в среднем бизнесе, половина окажется на всех трёх стульях сразу, причём хозяева об этом даже не задумывались. Как по мне, это лучший чек-лист безопасности агентов из всех, что я видел: три строки, без сертификатов и консультантов. https://www.helpnetsecurity.com/2026/09/17/spain-ai-agent-data-breach/ А ваши агенты на скольких стульях сидят?)