Технологии

Wells Fargo переложит на клиентов ответственность за ошибки их ИИ-агентов

Susan Hill
Добавьте нас в Google

Wells Fargo переписывает соглашение, на котором держатся его приложение и сайт: теперь любое действие стороннего ИИ-агента в счёте клиента будет считаться действием самого клиента. Банк заявляет, что будет исполнять указания агента без их проверки, не станет следить за тем, что агент делает, и будет относить ошибки агента на счёт клиента. «Вы используете любого ИИ-агента НА СВОЙ СТРАХ И РИСК», — говорится в новых условиях, причём набрано это заглавными буквами.

Для всех, кто передал банковский пароль шопинг-боту или помощнику по ведению бюджета, меняется ответ на вопрос, кто платит, если программа ошибётся. Двойной платёж, заказ, оформленный десять раз, или перевод, запущенный «заминированной» веб-страницей, лягут на владельца счёта, а не на банк — если только закон не предусматривает иное. Ничего подписывать не нужно: клиенты, которые продолжат пользоваться онлайн-банком после изменений, считаются согласившимися с ними. «Потребители санкционируют цели, а не каждый клик», — заявила изданию Wired Кейси Ким (Kacy Kim), профессор маркетинга Брайантского университета, изучающая поведение потребителей.

Определение очень широкое. Wells Fargo называет «ИИ-агентом» любое программное обеспечение, которое совершает от чьего-либо имени «автономные, полуавтономные или неавтономные действия», — а это выходит далеко за рамки чат-ботов, которые продают как персональных ассистентов. Клиент несёт издержки, если агент неверно истолковал инструкции, сделал то, о чём никто не просил, действовал на основе «манипулированных входных данных» или вышел за пределы выданных ему полномочий. Агенты, которыми пользуются люди, допущенные клиентом к счёту, подпадают под те же правила, а лицам младше 18 лет подключать агента запрещено вовсе.

Отключать агента тоже предстоит самому клиенту. По условиям, клиенты обязаны сами отозвать у него доступ, сохранить доказательства этого и предоставить их, если банк попросит. Пока клиент не уведомит Wells Fargo, он остаётся ответственным за всё, что делает агент. Это следует логике американского правила об электронных переводах — Regulation E, — которое считает переводы, совершённые человеком, получившим вашу карту или данные для входа, санкционированными, пока вы не потребуете от банка их остановить.

Wells Fargo по-прежнему допускает агентов, а значит, находится на либеральном краю отрасли, где двери закрываются. JPMorgan Chase изменил условия и запретил сторонних агентов, которые входят в систему с учётными данными клиента, Bank of America предупредил клиентов, чтобы те не делились логинами с агентами, а Citibank и PNC добавили собственные предупреждения, сообщает Wired. Morgan Stanley заблокировал сторонних агентов на своих платформах, писал Axios. Wells Fargo сохранил за собой право отключать соединения, которыми пользуются агенты, или полностью блокировать любого агента.

Сопротивление выходит за пределы банковской сферы. Amazon заблокировал агента Muse от Meta, не позволив ему совершать покупки в своём магазине, а United Airlines заявила, что личные боты не смогут покупать авиабилеты для путешественников. American Express — редкое исключение в материале Wired: компания сообщила, что некоторые ошибки агентов, например заказ слишком большого количества одного товара, в будущем могут давать право на возмещение, если покупатель не сможет вернуть деньги у продавца.

Насколько новая формулировка изменит практику, неясно. Её положения неоднократно отсылают к «закону или нормативным актам», а суды пока не решали, кто несёт убыток, когда агент, которого включил клиент, делает то, чего клиент никогда не хотел. К тому же аудитория невелика. «По всем нашим данным, большинство людей даже не знают, что такое агенты, не говоря уже о том, чтобы ими пользоваться», — сказала Wired аналитик Forrester Сучарита Кодали (Sucharita Kodali). Да и сами банки не против агентов как таковых. «Они запирают дверь для внешних агентов и строят собственных», — отметил Лука Киан (Luca Cian), профессор Виргинского университета, изучающий психологию потребителей и ИИ. Собственный генеративный ИИ-ассистент Wells Fargo обработал уже более миллиарда обращений.

Новые условия касаются только клиентов американского онлайн- и мобильного банкинга Wells Fargo, и все упомянутые до сих пор банки — американские. В Европейском союзе платёжные правила уже подталкивают приложения, которые считывают данные о счетах или переводят деньги, к лицензированным подключениям, предоставляемым самим банком, вместо общего пароля, и это оставляет меньше возможностей для агентов, входящих в систему под видом клиента.

Обновлённое соглашение Wells Fargo вступает в силу во вторник, 24 ноября, и распространяется на всех, кто продолжит пользоваться сайтом или приложением банка после этой даты. Запрет JPMorgan на агентов, работающих по учётным данным клиента, появился в конце октября — в тот же день, когда Bank of America разослал своё предупреждение. Wells Fargo также оставил за собой возможность обязать клиентов регистрировать своих агентов в банке, что дало бы ему перечень ботов, за которыми, по его словам, он не следит.

Теги: , , , , ,

Добавьте нас в Google

Обсуждение

Имеется 0 комментариев.