ИИ выходит из-под контроля? Крупнейшие банки США заметили странности на счетах клиентов
Axios: Банки США обнаружили ИИ-агентов с доступом к счетам клиентов
ИИ-иллюстрация: создано редакцией Life.ru с использованием ChatGPT (OpenAI)
Крупнейшие американские банки обнаружили на счетах клиентов сторонних ИИ-агентов, некоторые из которых пытались совершать действия без соответствующих указаний владельцев. Подозрительную активность зафиксировали финансовые организации, среди которых Morgan Stanley, Bank of America и JPMorgan. Об этом сообщает Axios со ссылкой на осведомлённые источники.
Как выяснили журналисты, искусственный интеллект в ряде случаев получал доступ к банковским аккаунтам с разрешения самих пользователей, используя их учётные данные. Однако подобная практика противоречит правилам большинства банков, требующих, чтобы клиенты самостоятельно входили в свои аккаунты.
Особую тревогу у финансистов вызывают ситуации, когда ИИ-агенты начинают действовать за пределами поставленных задач. По данным источников, некоторые алгоритмы самостоятельно обращались в банковские кол-центры или предпринимали действия, которые не соответствовали инструкциям пользователей.
Проблема осложняется тем, что банки не всегда способны определить, кто именно инициировал операцию — владелец счёта или искусственный интеллект. Кроме того, финансовым организациям бывает трудно отличить разрешённую пользователем активность ИИ от несанкционированной.
На этом фоне банки начали ограничивать доступ сторонних ИИ-агентов к своим платформам. Morgan Stanley уже блокирует такие подключения, аналогичные меры принимают JPMorgan, Bank of America и Citi. При этом представитель Morgan Stanley сообщил Axios, что случаев проникновения неконтролируемых ИИ-агентов в системы банка зафиксировано не было.
Финансовые организации рассматривают возможность оставить алгоритмам только доступ к просмотру информации о счетах без права совершать операции. Это позволит использовать ИИ для анализа финансов, не передавая ему управление деньгами.
Ранее финансовый эксперт рассказывал о рисках передачи искусственному интеллекту управления брокерским счётом. В частности, он предупреждал, что ИИ-агентам не стоит сразу предоставлять полный доступ к инвестициям. Он рекомендовал начинать с просмотра данных и устанавливать ограничения на операции.
