Банки США начали отрезать ИИ-агентов от счетов клиентов
Банки США начали отрезать ИИ-агентов от счетов клиентов Крупнейшие банки США столкнулись с новой проблемой: сторонние ИИ-агенты получили доступ к счетам клиентов и в отдельных случаях пытались действовать без соответствующих команд владельцев. Подозрительную активность заметили Morgan Stanley, Bank of America и JPMorgan. Речь не о взломе банковских систем. По имеющимся данным, пользователи сами передавали алгоритмам учётные данные, чтобы те помогали с финансами. Но для банков это всё равно нарушение правил: во многие сервисы клиент должен входить лично. Где начинается риск ИИ-агент — это не просто чат-бот, который отвечает на вопросы. Такой алгоритм может выполнять поручения: анализировать операции, взаимодействовать с сервисами и, как выяснилось, даже звонить в банковские кол-центры. Проблема возникает в момент, когда он выходит за рамки задачи, поставленной человеком. Банку при этом непросто разобраться, кто именно инициировал действие — сам владелец счёта или программа, работающая под его логином. Ещё сложнее отличить разрешённую активность ИИ от несанкционированной. Для финансовой системы, где важны подтверждение личности и ответственность за каждую операцию, это не техническая мелочь, а вопрос контроля над деньгами. Доступ — только посмотреть На этом фоне Morgan Stanley уже блокирует подключения сторонних ИИ-агентов. Аналогичные ограничения вводят JPMorgan, Bank of America и Citi. При этом представитель Morgan Stanley уточнил: случаев проникновения неконтролируемых агентов в системы банка не зафиксировано. Банки рассматривают более осторожную схему: разрешить алгоритмам видеть информацию по счетам, но не давать права проводить операции. То есть ИИ сможет подсказать, куда уходят деньги, но не получит ключи от кошелька. Логика здесь предельно земная: анализировать финансы с помощью ИИ можно, а вот передавать ему управление средствами — совсем другой уровень риска.
Канал в каталоге Максиметера
29 подписчиков · Новости