Державні регулятори пропонують банкам і контролерам рамки для використання ШІ
Управління з питань банківського нагляду штатів опублікувало добровільні рекомендації, які пропонують вісім запитань для розгляду контролерами та три рівні ризиків, з якими стикаються банки при використанні штучного інтелекту.
Від самого початку другого терміну адміністрації Трампа, коли передбачалося послаблення регулювання, деякі державні установи зайняли позицію, що їм доведеться заповнювати прогалини в тих сферах, де федеральні регулятори зменшували нагляд.
Можливо, саме тому Управління з питань банківського нагляду штатів (CSBS) у середу випустило добровільні (тобто, не обов’язкові) рекомендації, які контролери банків, що мають державну реєстрацію, могли б використовувати для оцінки використання штучного інтелекту (ШІ) фінансовими установами.
Федеральний резерв, Управління контролера грошового обігу та Федеральна корпорація зі страхування депозитів у квітні оновили свої рекомендації щодо того, як банки тестують і контролюють моделі, що керують рішеннями щодо кредитування, ціноутворення та ризиків.
Але ШІ вони значною мірою оминули.
“Генеративний ШІ та агентні моделі ШІ є новими та швидко розвиваються”, — зазначили агентства в той час. “Тому вони не входять до сфери дії цих рекомендацій”.
У прес-релізі, що представляє п’ять запропонованих документів для контролерів, генеральний директор CSBS Брендон Мілхорн назвав рамки своєї організації “підходом, заснованим на принципах… призначеним для того, щоб допомогти фінансовим установам досліджувати та впроваджувати ШІ з додатковою впевненістю”, оскільки “будь-яка нова технологія може створювати ризики”.
Важливо зазначити, що банки, зареєстровані на державному рівні, не були цільовою аудиторією квітневих федеральних рекомендацій, які не стосувалися ШІ.
Однак майже 80% з 4 233 установ, застрахованих FDIC, у країні знаходяться під наглядом державних регуляторів.
Рекомендації CSBS включають основний посібник для контролерів, робочу програму, що окреслює запропоновані процедури для контролерів, додаток для небанківських організацій, робочий аркуш, що класифікує використання ШІ банками за рівнями, і список джерел, з яких походять рамки.
Особливу увагу слід звернути на вісім запитань, які, на думку CSBS, контролери повинні розглянути при оцінці використання ШІ в банках, що перебувають під наглядом:
- Чи використовує банк ШІ?
- Чи визначив він, де саме?
- Як ШІ впливає на клієнтів або формує рішення?
- Чи походить ШІ банку від постачальників чи зовнішніх платформ?
- Чи перевіряв банк на наявність ШІ, вбудованого в продукти постачальників, які він зараз використовує?
- Чи використовує банк генеративний ШІ?
- Чи класифікує банк своє використання ШІ за рівнем ризику?
- Чи проходять конфіденційні дані (клієнтські, банківські чи інші) через ШІ?
Інший, мабуть, найважливіший елемент рамок — це система багаторівневої класифікації, за допомогою якої CSBS пропонує контролерам оцінювати ризики, пов’язані з ШІ. Існує три рівні, від найнижчого до найвищого ризику.
Згідно з рамками, CSBS вважає банк “Рівнем 1”, якщо використання ШІ обмежено “внутрішнім використанням, результатами, перевіреними людиною, обмеженим впливом на споживачів, обмеженою чутливістю даних та низьким потенційним збитком від помилок або збоїв”.
Банк досягає Рівня 2, або помірного ризику, коли він надає ШІ “роль, орієнтовану на споживача або допоміжну роль у прийнятті рішень”, або має “помірну чутливість даних, винятковий людський нагляд або помірний потенційний збиток від помилок або збоїв”, — заявили в CSBS.
Тим часом Рівень 3 настає, коли “випадки використання включають прямі результати для споживачів, конфіденційні персональні дані, обмежену людську перевірку, значну операційну залежність або матеріальний потенційний збиток від помилок або збоїв”, — йдеться в документі CSBS.
CSBS зазначило, що рамки ШІ призначені не лише для регуляторів. “Вони також слугують ресурсом для галузі”, — заявила організація.
“Фінансові установи можуть використовувати ці рамки для оцінки власних програм ШІ, встановлення належного управління ШІ та управління ризиками, а також для підготовки до перевірок”, — додали в CSBS.