ШІ-протоколи викликають “код червоний” у великих банках, каже CEO фінтех-компанії
Банки, такі як PNC та Fifth Third, встановлюють межі для дій агентів. Фінтех-компанія Socure запускає інструмент для виявлення ШІ-агентів, щоб допомогти їм.
CEO фінтех-компанії, яка співпрацює з великими банками, прогнозує, що банки визначаться з чіткими протоколами щодо того, що штучний інтелект (ШІ) може робити від імені клієнтів, приблизно за шість місяців.
Зі зростанням використання ШІ-агентів та розглядом банками питань доступу, “зараз у банках вирує багато ‘кодів червоних'”, — заявив в інтерв’ю CEO Socure Джонні Аєрс.
Socure, постачальник послуг з ідентифікації та оцінки ризиків, має близько 6000 клієнтів, включно з 19 з 20 найбільших банків США, а також приблизно 700 фінтех-компаній, повідомив Аєрс.
“Я думаю, ми ще далекі від того, щоб банки мали чіткий протокол щодо того, коли [людина може] відкрити новий банківський рахунок або отримати кредитну картку за допомогою свого агента”, — зазначив Аєрс.
ШІ-агенти, такі як Meta Muse, Instinct та OpenAI dots, що діють від імені споживачів, швидко поширилися останніми тижнями, змусивши банки укріплювати свої захисти, а CEO банків — попереджати про потенційні юридичні ризики.
JPMorgan Chase, Bank of America та Citi заблокували ШІ-агентам доступ до облікових записів клієнтів. Однак Axios повідомив, що найбільші американські банки все ж виявили ШІ-агентів в облікових записах, причому деякі агенти діяли поза межами своїх інструкцій.
Банки “побудовані на стандартах та протоколах, і, я думаю, вони, ймовірно, займають оборонну позицію, поки не налагодять правила та протоколи з мережами”, — сказав Аєрс.
Існує багато питань, які банки та інші гравці галузі повинні вирішити та встановити параметри, а також подумати про реакцію регуляторів у разі виникнення проблем у клієнтів, зазначив Аєрс. Тим часом технології швидко розвиваються.
“Ви бачите вразливості в кібербезпеці. Люди певною мірою налякані”, — сказав Аєрс. “Люди точно займають більш вичікувальну позицію”.
“У цих банках є тисячі людей, які працюють над виправленням усіх критичних вразливостей, на які вказують [Anthropic’s Claude] Mythos та інші. Тож це не та організація, де вони зазвичай хочуть, щоб агенти діяли безконтрольно”, — додав він.
Шаблон для боротьби з шахрайством, відмиванням грошей та ідентифікації клієнтів (KYC) для агентів ще не написаний, зазначив він. “Чи може агент відкрити банківський рахунок від вашого імені? Що йому дозволено робити? Які його межі?”
З боку банків та емітентів карток “відбувається прискорення зусиль, спрямованих на з’ясування того, що дозволено робити агентам”, — сказав Аєрс.
Також існують проблеми з доступом до даних.
“Існує обґрунтоване блокування, щоб гарантувати, що ці агенти не отримують доступ і не викрадають дані транзакцій від імені споживачів, яким споживачі необізнано надають доступ”, — зазначив Аєрс.
Банки мають більший контроль над мобільним використанням, сказав Аєрс, але з веб-додатками “їм потрібно розібратися зараз, тому що я можу дозволити агенту повністю взяти під контроль мій браузер”.
Він вказав на контраст між підходами фінтех-компаній та банків. Останні “діють у таких великих масштабах, що мають розкіш чекати й спостерігати”, — сказав Аєрс, тоді як фінтех-компанії, такі як Mercury, займають протилежний підхід.
Реакція банків
CEO PNC Білл Демчак на конференції Money20/20 у Лас-Вегасі минулого місяця заявив, що транзакції, які виконуються виключно агентами, ніколи не відбуватимуться. Під час виступу на конференції BancAnalysts Association of Boston у п’ятницю Демчак додав, що “поняття агентського виконання проти агентської пропозиції, я думаю, це дуже різні речі”.
“Ми не дозволимо агенту заходити та натискати кнопки — фактично, переказувати гроші від вашого імені — без вашої участі, з вашою автентифікацією, погодженням транзакції”, що є “основою основ”, — сказав CEO банку з Піттсбурга.
З моменту запуску Muse, “роздрібні банки по всій країні зосередилися виключно на цьому: як конкурувати з технологією, яка існує і ставатиме кращою?” — запитав Демчак.
Відповідь PNC на це, за його словами, полягає в тому, щоб “створити належний захист від цього”, надавши клієнтам можливість легко робити все, що вони хочуть, зі своїми банківськими фінансами та інформацією, “і замінити все поняття того, що вам потрібно кудись іти, щоб зробити це легко”, — зазначив Демчак. “Ми далеко просунулися на шляху до досягнення цього”.
Подібним чином, CEO Fifth Third Тім Спенс минулого місяця заявив, що існуючі банки мають перевагу, і кредитори просто створюватимуть послуги у своїх додатках, до яких клієнти можуть звернутися до ШІ-агентів.
Fifth Third, розташований у Цинциннаті, блокує ШІ-агентів. На конференції BAAB у п’ятницю фінансовий директор банку Браян Престон та директор з інформаційних технологій Джуд Шрамм посилалися на проблеми відповідальності, потребу в протоколах “знай свого агента”, подібних до вимог KYC, та можливості підтвердження автентичності агента.
“Роки попереду”
Демчак у п’ятницю заявив, що галузь “далека від того”, щоб передати контроль ШІ-агентам над результатами транзакцій, “тому що система відповідальності не налаштована для цього”.
“Той факт, що технологія існує, сильно відрізняється від наявності ринкової системи, яка дозволить їй досягти успіху, тому я думаю, що буде деяка затримка”, — сказав він.
Тим часом PNC повинен забезпечити, “щоб ми обслуговували наших клієнтів і надавали їм технології, які такі ж хороші, як ті, що ми бачимо від потенційних інноваторів”, — зазначив Демчак.
Socure, зі свого боку, минулого тижня запустила набір інструментів, які виявляють ШІ-агентів, присвоюють їм рейтинг довіри та пов’язують агентів із верифікованими користувачами, які їх авторизують. Це розроблено, щоб допомогти компаніям відрізняти трафік ботів від агентів, керованих споживачами, сказав Аєрс.
“Ми перебуваємо в процесі численних впроваджень з великими банками, які намагаються з’ясувати, як отримати дуже точне уявлення про те, звідки надходить цей трафік”, — сказав Аєрс. “Це швидко перетворюється на гру в кішки-мишки, де деякі з цих хлопців намагаються симулювати людську поведінку, а… з іншого боку, люди намагаються з’ясувати, це людина чи ні?”.
Банківські клієнти, які вже використовують інструменти компанії, увімкнули нові можливості виявлення агентів, і Socure співпрацює з ними, щоб визначити, які поверхні їм потрібно перевіряти.
“Тому що це не тільки форма реєстрації; це вхід, це кол-центр. Це весь досвід”, — сказав Аєрс. “Це дійсно кожна сторінка, тому що тепер я можу бути в системі свого облікового запису, а потім агент може взяти під контроль мій браузер. Тому вам дійсно потрібно бути на кожному кроці, на кожній сторінці всього досвіду, від початку до кінця”.
І якщо агент виявлений: “Чи призупиняєте ви сеанс? Чи виганяєте їх?” — запитав Аєрс.
“Це багато речей, над якими ми зараз працюємо, і, безумовно, люди додають нові можливості та нові скрипти, щоб переконатися, що вони виявляють будь-що нове і гарантують, що жоден трафік не проходить”, — сказав Аєрс.
“Ми точно отримуємо запити від людей, які хочуть рухатися дуже швидко”, — сказав він.
Виправлення: У попередній версії цієї статті кількість клієнтів Socure була вказана неточно. Компанія має 6000 клієнтів.
За матеріалами: www.bankingdive.com