Такое предупреждение сделал Чжоцюнь Бянь, президент Ant Digital Technologies, корпоративного подразделения Ant Group, на Форуме лидеров Fortune в Макао 8 сентября.

«С точки зрения финансовых институтов, когда мы инициируем транзакцию, мы должны проводить процедуру KYC (знай своего клиента)», — сказала она. — «В экономике агентов вам нужно знать своих агентов. Кто этот агент? Кому он принадлежит? Кто его уполномочил?»

Согласно январскому отчету McKinsey, к 2030 году агенты могут организовывать потребительские расходы в глобальном масштабе на сумму до 5 триллионов долларов. Тем не менее, инфраструктура, в которой работают эти агенты, изначально была разработана для людей.

«Глядя в будущее, всю инфраструктуру необходимо перестроить или усовершенствовать для агентов», — отметила Бянь. 6 сентября Ant International, глобальное платежное подразделение Ant Group, объявило о начале сотрудничества с Mastercard и Visa над созданием базы для взаимодействия в рамках концепции «знай своего агента».

Эта инициатива призвана позволить карточным сетям, цифровым кошелькам и маркетплейсам распознавать доверенных ИИ-агентов в различных экосистемах. Компании будут работать через BuildFin.ai — отраслевую платформу, созданную Валютным управлением Сингапура, центральным банком этого города-государства.

В апрельской записке Международного валютного фонда отмечалось, что ИИ-агенты являются вероятностными и адаптивными, что означает, что один и тот же запрос может давать разные ответы, в то время как платежные системы должны выдавать одинаковый ответ каждый раз.

«Платежные шлюзы, от карточных сетей до систем валовых расчетов в реальном времени (RTGS), опираются на предсказуемые правила, правовую определенность и четкие структуры ответственности для обеспечения доверия и финансовой стабильности», — написали авторы записки.

Для банков главный вопрос заключается в том, смогут ли их собственные системы идти в ногу со временем. «Я лично никогда не сталкивался с ситуацией, когда технология агента подводила нас или, вернее, приводила к нежелательному результату», — заявил Бенсон Вонг, управляющий директор и руководитель отдела цифровых технологий в JPMorgan Private Bank.

«Речь всегда идет об операционной модели, процессах, комплаенсе и средствах контроля», — добавил он. Цена ошибки агента возрастает пропорционально его автономности.

«Если вы зададите агенту вопрос информационного характера, и он ответит неправильно, это нехорошо, но вы окажетесь в неловком положении. Если вы не настроите агентские рабочие процессы должным образом, последствия будут масштабными», — пояснил он.

«Вам нужно знать своих агентов гораздо лучше, чем своих клиентов», — резюмировала Бянь.