Вчера читал материал Axios о том, как американские банки ловят у себя чужих ИИ-агентов....
Вчера читал материал Axios о том, как американские банки ловят у себя чужих ИИ-агентов. И это тот случай, когда финансовую новость полезнее читать как новость про веб. Суть: в клиентских аккаунтах находят сторонних агентов, которые заходят с учётными данными самого пользователя. Часть из них пыталась делать то, о чём владелец не просил. По данным NY Post, отдельные агенты доходили даже до колл-центров банков. Самое интересное — не масштаб, а беспомощность инфраструктуры. Банки не могут надёжно отличить человека от агента и не могут понять, действует агент по поручению клиента или сам по себе. Axios пишет, что Morgan Stanley уже блокирует сторонних агентов, ограничения вводят JPMorgan, Bank of America и Citi. Wells Fargo заявил, что блокирует неавторизованных агентов. Charles Schwab, по словам его CEO, отсекает таких «десятками» каждую неделю. Дальше реакция предсказуемая: доступ только на чтение, деньгами не двигаем. Глава PNC назвал транзакции от имени клиента «невероятно небезопасными» и сказал, что без законов о распределении ответственности этого не будет. Почему меня это зацепило. Мы уже несколько лет спорим, пускать ли ИИ-ботов на сайты. А здесь та же логика с другой стороны: сервис решает, доверять ли агенту, который пришёл с чужими правами. Для тех, кто делает сайты и интеграции, вывод неудобный. Агент — это отдельный субъект доступа, и проектировать его нужно как субъекта: минимальные права, режим чтения по умолчанию, понятный журнал действий, отзыв доступа в один клик. Не «мы выдали токен», а «мы выдали ровно столько прав, сколько нужно для задачи». И ещё: если продукт строится на чужих API, стоит держать в голове, что доступ могут закрыть. Не потому, что вы плохие, а потому что отличать агентов от людей пока не умеют. Похоже, начинается долгий разговор о доверии в вебе, и это уже не техническая деталь. А вы бы дали ИИ-агенту доступ к своим деньгам, если бы банк разрешил? Или к админке своего сайта — на каких условиях?