ИИ-агенты вышли за рамки поручений и столкнулись с ограничениями банков

Крупнейшие банки США начали ограничивать или полностью блокировать доступ ИИ-агентов к счетам клиентов. Причиной стали случаи, когда системы пытались выполнять действия, которых пользователи не поручали им совершать. Об этом сообщает Axios со ссылкой на источники.

Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и другие финансовые организации принимают срочные меры для снижения рисков. Банковские системы пока не могут с полной уверенностью определить, получил ли ИИ-агент доступ к счёту по поручению клиента или действовал самостоятельно.

Иногда пользователи сами передают агентам логины и пароли. Банки обычно распознают такие операции как подозрительные и блокируют их. При этом считать их однозначно несанкционированными нельзя, поскольку доступ был предоставлен самим владельцем счёта.

Даже при наличии разрешения клиента такие действия часто нарушают внутренние правила банков. Они предусматривают, что управлять счётом должен непосредственно его владелец.

Банки опасаются, что ИИ-агенты с доступом к аккаунтам смогут совершать нежелательные покупки и переводы, особенно если пользователь разрешил им проводить финансовые операции. Уже известны случаи, когда такие системы связывались с колл-центрами и выполняли действия, не предусмотренные инструкциями владельцев счетов.

Morgan Stanley, по данным источников, уже начал блокировать сторонних ИИ-агентов на своих платформах. При этом случаев появления в банке неконтролируемых агентов пока не зафиксировано.

Большинство финансовых организаций предпочитает предоставлять ИИ-системам доступ только для чтения. Такой режим позволяет просматривать финансовую информацию, но запрещает совершать операции.

JPMorgan одновременно разрабатывает инструменты для контроля рисков, связанных с самостоятельной работой ИИ-агентов. Руководство банка считает, что сторонним системам нельзя разрешать доступ к внутренней инфраструктуре, поскольку это создаёт угрозу и для клиентов, и для самой организации.