ШІ, довіра та недопредставлені — інтерв’ю з Паулою Грічо, старшою віцепрезиденткою Commonwealth

Пауло Грічо — старший віце-президент у Commonwealth.

Дізнайтеся про найважливіші новини та події у сфері фінтех!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Фінансовий штучний інтелект має ще довгий шлях — не лише у швидкості, точності або регулюванні, а й у тому, як він здобуває довіру. Особливо від тих, хто традиційно не був першими у черзі при впровадженні нових технологій.

У FinTech Weekly ми слідкуємо за роботою Commonwealth, некомерційної організації, яка зосереджена на створенні фінансової безпеки для домогосподарств з низьким та середнім доходом (LMI). Їхня польова робота, описана у нашій недавній редакційній статті, виявила явний конфлікт: хоча користувачі з LMI відкриті до інструментів, таких як чат-боти, вони все ще чекають досвіду, який справді їх обслуговує — а не просто перепакованих функцій, створених для інших.

Цього тижня ми пішли глибше.

Ми поспілкувалися з Паулою Грічо, старшим віце-президентом у Commonwealth, щоб зрозуміти, що насправді потрібно для того, щоб штучний інтелект був ефективним — і безпечним — для недопредставлених спільнот. Від принципів дизайну до здобутої довіри, від співпілотів до втоми від чат-ботів, вона ділиться, чому намір важливіший за саму інновацію.

Це обґрунтований і продуманий погляд на те, якою може — і повинна — бути інклюзивна фінансова технологія.

Читати повне інтерв’ю нижче.

2.  Остання співпраця Commonwealth із JPMorganChase дала ключові уявлення про роль штучного інтелекту у підвищенні фінансової безпеки для домогосподарств з LMI. Які були найбільш несподівані або впливові висновки цього дослідження?

Наші дослідження висвітлюють величезний потенціал штучного інтелекту, зокрема чат-ботів, для надання персоналізованих порад і підтримки спільнотам з низьким доходом — якщо чат-боти розроблені з урахуванням потреб і перспектив цієї групи.

Два ключові висновки:

*   Клієнти здебільшого сприймають чат-боти як позитивний інструмент для покращення свого фінансового становища. Наші дані показали, що 57% респондентів зазначили, що використання чат-ботів покращило їхню фінансову ситуацію. Також дослідження показало, що люди з низьким і середнім доходом прагнуть функцій для побудови кредитної історії, бюджету та управління боргами.

*   Респонденти цінували беззмагальний простір із чат-ботом для запитань щодо чутливих фінансових питань без страху сорому або самосвідомості, які можуть виникнути при особистій розмові з представником.

3.  Як ви бачите розвиток розмовного штучного інтелекту у сфері фінансових послуг, особливо для недопредставлених спільнот?

Ідеальною є наступна генерація чат-ботів, що базуються на генеративному штучному інтелекті, — це фінансові асистенти, які краще підтримують фінансову діяльність цих домогосподарств і здобувають довіру тих, хто часто насторожено ставиться до взаємодії з фінансовою системою та обміну даними онлайн. Є велика можливість для фінансових провайдерів створити більш складні, нюансовані та орієнтовані на дії функції для своїх чат-ботів.

Зараз, коли клієнти використовують фінансові чат-боти, вони здебільшого шукають інформацію про рахунки або намагаються вирішити проблему. Менше 20% наших учасників національного опитування використовували чат-ботів для фінансових порад, освіти, рекомендацій щодо продуктів, подачі заявок на кредити або позики, відкриття або закриття рахунків. Однак наше дослідження показує, що існує попит на чат-ботів, які можуть допомогти з цими видами банківських дій. Орієнтація на такі функції при розробці чат-ботів може збільшити їх використання та корисність серед цих клієнтів.

Для банків і фінансових установ, які ще не готові запускати генеративних фінансових співпілотів безпосередньо для споживачів, ця технологія може підтримувати співробітників банку, таких як представники служби підтримки, щоб забезпечити кращі, точніші та швидші відповіді клієнтам під час взаємодії.

4.  Які найбільші виклики у забезпеченні справедливості та ефективності фінансових інструментів на основі штучного інтелекту для чорних, латинських та жінок-очолених домогосподарств?

З усіма новими технологіями потрібно свідомо працювати над тим, щоб потреби тих, хто має низький і середній дохід, були враховані у процесі розробки та прийняття рішень. Ми виявили, що приватно-філантропічне партнерство з фінансовими установами на ранніх етапах допомагає створити імпульс для цих зусиль. Розвиваючи базу доказів, ми також допомагаємо формувати бізнес-кейс.

Ми бачимо значний потенціал у створенні рекомендацій щодо дизайну, наприклад, для підвищення здобутої довіри, що може дозволити розмовному штучному інтелекту підтримувати фінансове здоров’я без значних додаткових витрат.

5.  Згідно з вашим дослідженням, які основні принципи дизайну мають враховувати фінансові провайдери при інтеграції штучного інтелекту для підтримки користувачів з LMI?

Commonwealth створила ресурс — Посібник з фінансового штучного інтелекту для добра, — щоб надати практичні рекомендації щодо дизайну для фінансових провайдерів, що обслуговують LMI. Ці рекомендації базуються на всебічних дослідженнях із фінансовими установами, постачальниками чат-ботів і людьми, що живуть з LMI.

Посібник структурований навколо чотирьох основних цілей дизайну. Ось кілька прикладів для кожної:

*   Здобути довіру: найбільша турбота серед наших респондентів — безпека. Тут фінансові установи можуть підкреслити захист даних через початкові повідомлення про заходи безпеки, а також надати користувачам контроль над тим, які дані зберігаються.
*   Заохочувати залучення: зробіть так, щоб користувачі розуміли, що ці інструменти можуть робити для них і коли, створюючи ясність щодо їх функцій. Також прагніть до «інтелектуальної проактивності». Наприклад, інтегруйте чат-ботів, які з’являються у найкорисніший момент, не будучи надто нав’язливими або агресивними, щоб не виглядати спамом.
*   Збільшити цінність: передбачайте потреби клієнта. Обмежений доступ до фізичних відділень створює можливість для чат-ботів виконувати дрібні дії, на які раніше потрібно було йти до банку. Балансуйте автоматизацію та контроль, дозволяючи користувачам вмикати або вимикати автоматичні фінансові функції, а також включайте «захисні мережі», які зупиняють автоматичний рух грошей, якщо баланс падає нижче певного порогу.
*   Покращити доступність: пропонуйте багатомовну підтримку та рекомендації, адаптовані до вашої клієнтської бази, зосереджуючись на мобільних функціях. Наші дослідження показали, що понад половина респондентів віддає перевагу доступу до банківських послуг через мобільний телефон.

6.  Чи можете ви поділитися історіями успіху або кейсами, де розмовний штучний інтелект значно покращив фінансове благополуччя людей з LMI?

Ми знаємо, що 57% учасників нашого польового дослідження зазначили, що використання фінансового чат-бота позитивно вплинуло на їхнє фінансове становище. Хоча ці початкові результати обнадійливі, генеративні інструменти штучного інтелекту ще на початковій стадії, і наше подальше дослідження продовжить формувати базу доказів їхньої ефективності у покращенні фінансового благополуччя для LMI.

7.  Які ризики або непередбачені наслідки мають враховувати фінансові установи при впровадженні інструментів на основі штучного інтелекту?

Важливо, щоб люди з низьким і середнім доходом не були залишені поза увагою. При розробці інструментів фінансові установи мають розуміти внутрішні можливості та способи обслуговування цієї клієнтської бази.

Існує багато організацій, що спеціалізуються на ризиках і наслідках інструментів на основі штучного інтелекту, а також на упередженнях і точності великих мовних моделей. Крім того, важливо вирішити одну з головних проблем — релевантність фінансових рекомендацій для індивідуальних фінансових ситуацій користувачів. Фінансові установи можуть підвищити залучення клієнтів і здобути їхню довіру, забезпечуючи точність інформації та прозорість.

Штучний інтелект відкриває безпрецедентні можливості для людей з низьким і середнім доходом отримати доступ до порад і інструментів, які раніше були недоступні — будь то інвестиційні інструменти або управління особистими фінансами. Ці інструменти можна персоналізувати та адаптувати під унікальні ситуації таких клієнтів. Це величезна можливість для фінансових провайдерів розширити свою клієнтську базу.

8.  Як фінансові установи можуть виміряти реальний вплив інструментів на основі штучного інтелекту на фінансову безпеку та благополуччя користувачів?

Основи фінансового благополуччя: чи зросли заощадження, зменшилася заборгованість, покращилися кредитні рейтинги при використанні цих інструментів?

Ми також можемо опитати користувачів щодо досвіду взаємодії з чат-ботом — чи зросла довіра? Чи з’явився інтерес до продуктів, що допомагають покращити фінансове благополуччя? Чи були зроблені дії після отримання поради?

Банки можуть також проводити A/B тестування серед різних груп споживачів, що взаємодіють із чат-ботами, порівнюючи їх із тими, хто не використовує їх, щоб визначити, чи є між ними вимірювані різниці.

9.  Яку роль відіграє людський контроль у впровадженні інструментів на основі штучного інтелекту у фінансових послугах, і як провайдери можуть знайти правильний баланс між автоматизацією та людською підтримкою?

Один із способів підвищити здобуту довіру до штучного інтелекту — забезпечити можливість людського контакту у потрібний час під час взаємодії. Тут корисним є використання співпілотів для співробітників банку, що працюють із клієнтами. Можливість звернутися до живої людини у критичний момент підвищує довіру та покращує досвід роботи з інструментом.

Використання розмовного штучного інтелекту дозволяє співробітникам служби підтримки швидше та краще обслуговувати складні потреби клієнтів, зберігаючи людський аспект у ключові моменти взаємодії, коли потрібен живий агент.

Прозорість також є критичною для формування довіри — наприклад, потрібно знати, чи спілкуєтеся ви з чат-ботом чи з реальним співробітником.

10.  Які найцікавіші можливості штучного інтелекту у сфері фінансової інклюзії протягом наступних п’яти років?

Генеративний штучний інтелект — це наступна еволюція розмовного AI, що пропонує персоналізоване та контекстуально чутливе залучення, наближаючись до людської підтримки більше, ніж більшість сучасних фінансових чат-ботів із дерева рішень. Початкові застосування генеративного AI у фінансах зосереджені переважно на бек-офісних процесах, де є можливість підтримувати агентів служби підтримки. Визначення способів масштабної персоналізованої підтримки у фінансовому контексті — це ключова можливість для розвитку цієї сфери.

Зміцнення довіри до генеративного AI буде особливо важливим для широкого впровадження, оскільки учасники наших польових тестів і фокус-груп залишаються більш скептичними щодо нього, ніж щодо традиційних чат-ботів. Проте потенційні переваги — надання більш просунутого рівня підтримки у фінансових сервісах — роблять генеративний AI найцікавішою технологією для спостереження у фінансовому секторі. Ті, хто зможуть створити надійну та довірену підтримку на базі генеративного AI, опиняться на передовій нової ери масштабних взаємовідносин із клієнтами.

Ще однією перспективною можливістю є співпілоти та особисті асистенти, що можуть надавати комплексні фінансові поради, адаптовані до індивідуальних потреб, — так званий особистий фінансовий тренер. Також очікуємо, що прогрес у розмовному AI відіграє важливу роль у підтримці фінансового здоров’я працівників, надаючи інформацію та рекомендації для орієнтації у складних системах корпоративних пільг.

11.  Як ви бачите роль некомерційних організацій, таких як Commonwealth, у формуванні відповідального використання штучного інтелекту у фінансових послугах?

Історично дизайн нових технологій орієнтувався на залучення споживачів із високими доходами, ігноруючи потреби домогосподарств з низьким і середнім доходом. Через нашу ініціативу Emerging Tech for All (ETA) ми прагнемо забезпечити розуміння, видимість, включення у відповідні дискусії та інтеграцію потреб фінансово вразливих людей у рішення. Ми перебуваємо на критичному етапі масштабування AI і вважаємо, що терміново потрібно продовжувати дослідження та визначати способи, якими AI може позитивно впливати на цю групу.

Зараз у цій галузі мало досліджень і практичного впровадження, і деякі провайдери, з якими ми спілкувалися, наголошували на необхідності масштабних досліджень для створення доказової бази, яку можна використовувати для внутрішнього обґрунтування такого дизайну. Ми відповідаємо цій виклику, створюючи важливі дослідження та польові випробування, що демонструють, як генеративний AI може підтримувати фінансове благополуччя домогосподарств з LMI і формувати бізнес-кейс для активнішого проектування для цієї сегменту.

У майбутньому системний вплив інклюзивного технологічного дизайну залежатиме від масштабного застосування цих ідей великими гравцями у фінансовій сфері. Для нас масштабування інклюзивного дизайну залежить від використання наших досліджень у партнерстві з великими організаціями, що прагнуть використовувати AI для підтримки фінансового здоров’я своїх клієнтів і працівників.

12.  Які поради ви дали б фінансовим установам, що прагнуть використовувати AI, зберігаючи довіру та прозорість із клієнтами?

Люди з низьким і середнім доходом більше зацікавлені у безпосередніх банківських контактах із людиною, але мають найменший доступ до фізичних відділень. Цей розрив створює ключову можливість для AI — надавати персоналізовану підтримку, яку шукають ці домогосподарства, без необхідності збільшувати кількість відділень або співробітників служби підтримки.

Однак для ширшого впровадження фінансові установи мають здобути і зміцнити довіру до чат-ботів серед людей з LMI — частково це залежить від досвіду роботи з чат-ботами, частково — від галузевих стандартів, оскільки технології AI стають більш прийнятними і безпечними.

Найбільші побоювання користувачів — безпека та конфіденційність. Загалом, люди висловлюють недовіру до розмовного AI у питаннях корисності, захисту даних і дій у їхніх інтересах. Хоча багато у бізнесі захоплені потенціалом AI, люди з LMI, ймовірно, ставляться до нього з більшою скептичною обережністю, оскільки ця технологія ще не довела свою цінність для них безпосередньо.

Прозорі політики щодо даних, заспокійливий брендинг і повідомлення, а також можливість звернутися до живого агента у разі потреби — все це сприятиме формуванню і здобуттю довіри. Створення корисних і персоналізованих взаємодій за допомогою генеративного AI, що виходять за межі базової інформації, такої як баланс рахунку або останні транзакції, також допоможе продемонструвати цінність цієї технології.

Важливо також підкреслити концепцію здобутої довіри. Мета — не просто переконати людей довіряти чат-ботам, а й проектувати їх так, щоб ця довіра була виправданою.