Рівень судження: Чому ШІ не є розумним, поки лідери не стануть розумнішими

Гільєрмо Delgado Aparicio — глобальний лідер з штучного інтелекту в Nisum.

Відкрийте для себе найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Штучний інтелект у фінтеху охоплює широкий спектр застосувань, від виявлення шахрайства та алгоритмічної торгівлі до динамічного кредитного скорингу та персоналізованих рекомендацій продуктів. Однак у звіті Управління фінансового регулювання та нагляду (Financial Conduct Authority) зазначається, що з 75% компаній, які використовують ШІ, лише 34% розуміють, як він працює.

Проблема полягає не лише у відсутності обізнаності. Це глибше — неправильне розуміння сили та масштабів аналітики даних, з якої виникає ШІ. Масове впровадження генеративних інструментів ШІ привернуло увагу керівництва. Але багато з тих, хто визначає, як впроваджувати ШІ, не розуміють його основних принципів — калькулюсу, статистики та складних алгоритмів.

Візьмемо закон Бенфорда — простий статистичний принцип, який виявляє шахрайство, помічаючи закономірності у числах. ШІ базується на тому ж типі математики, лише масштабованій до мільйонів транзакцій одночасно. Знявши маркетинговий шум, залишається основа — статистика та алгоритми.

Саме тому важливою є грамотність керівників щодо ШІ. Лідери, які не можуть відрізнити межі аналітики та ШІ, ризикують довіряти системам понад міру або недооцінювати їх через страх. Історія показує, що трапляється, коли прийняття рішень базується на неправильному розумінні технологій: регулятори колись намагалися заборонити міжнародні IP-звонки, але технологія швидше за правила. Те саме відбувається з ШІ. Його не можна блокувати або сліпо впроваджувати — потрібен розсуд, контекст і відповідальне керівництво.

Лідери у фінтеху мають закрити ці прогалини, щоб використовувати ШІ відповідально та ефективно. Це означає розуміти межі аналітики та ШІ, розвивати навички керування цими системами та застосовувати здоровий глузд для визначення, коли і як довіряти їхнім результатам.

Обмеження, сліпі зони та ілюзії ШІ

Аналітика аналізує минулі та поточні дані, щоб пояснити, що сталося і чому. ШІ виростає з цієї основи, використовуючи передову аналітику для прогнозування майбутніх подій і, все частіше, для автоматичного прийняття рішень або дій.

З його винятковими можливостями обробки даних легко зрозуміти, чому керівники фінтеху вважають ШІ своєю магічною кулею. Але він не може вирішити всі проблеми. Люди все ще мають природну перевагу у розпізнаванні шаблонів, особливо коли дані неповні або “забруднені”. ШІ може мати труднощі з інтерпретацією контекстуальних нюансів, які швидко зрозуміють люди.

Однак помилка в тому, що неповні дані роблять ШІ безкорисним. Аналітичні моделі можуть працювати з неповними даними. Але справжнє виклик — знати, коли застосовувати ШІ, а коли покладатися на людський розсуд для заповнення прогалин. Без цього ретельного контролю ШІ може створювати значні ризики.

Однією з таких проблем є упередженість. Коли фінтехи тренують ШІ на застарілих наборах даних, вони часто успадковують їхній багаж. Наприклад, ім’я клієнта може випадково слугувати ознакою статі, або прізвище — ознакою етнічної приналежності, що може спотворювати кредитний рейтинг у спосіб, який жоден регулятор не схвалить. Ці упередження, легко приховані у математиці, часто потребують людського контролю для виявлення та виправлення.

Коли моделі ШІ потрапляють у ситуації, з якими не були навчені, виникає зміщення моделі (model drift). Волатильність ринку, зміни регуляторних вимог, еволюція поведінки клієнтів і макроекономічні зрушення можуть впливати на ефективність моделі без людського моніторингу та переналаштування.

Складність переналаштування алгоритмів зростає, коли фінтехи використовують “чорні ящики”, що не дозволяють бачити зв’язки між змінними. У таких випадках вони втрачають можливість передавати ці знання керівництву. Крім того, помилки та упередження залишаються прихованими у непрозорих моделях, підриваючи довіру та відповідність.

Що потрібно знати керівникам фінтеху

Опитування Deloitte показало, що 80% стверджують, що їхні ради директорів мають мало або зовсім не мають досвіду з ШІ. Але керівники вищого керівництва не можуть дозволити собі вважати ШІ “проблемою технічної команди”. Відповідальність за ШІ лежить на керівництві, тому фінтех-лідери мають підвищувати свою кваліфікацію.

Мультианалітична компетентність

Перед впровадженням ШІ керівники мають вміти швидко перемикатися — аналізувати цифри, бізнес-кейс, операції та етичні питання — і бачити, як ці фактори перетинаються та формують результати ШІ. Вони мають розуміти, як статистична точність моделі пов’язана з кредитним ризиком. І вміти розпізнавати, коли змінна, яка здається фінансово обґрунтованою (наприклад, історія погашень), може створювати соціальні або регуляторні ризики через кореляцію з захищеними ознаками, такими як вік або етнічна приналежність.

Ця компетентність з’являється через спільну роботу з фахівцями з відповідності, обговорення з менеджерами продуктів щодо досвіду користувачів і перегляд результатів моделей з дата-сцентистами для виявлення ознак зміщення або упереджень.

У фінтеху 100% уникнути ризиків неможливо, але з мультианалітичною компетентністю керівники можуть визначити, які ризики варто приймати, а які зруйнують цінність для акціонерів. Цей навик також допомагає швидко виявляти та реагувати на упередженість — не лише з точки зору відповідності, а й з стратегічної та етичної.

Наприклад, якщо модель кредитного скорингу, побудована на ШІ, схиляється до одного сегмента клієнтів, виправлення цієї нерівності — не просто завдання для дата-сцентиста; це захист репутації компанії. Для фінтехів, орієнтованих на фінансову інклюзію або під регуляторним контролем ESG, лише юридична відповідність недостатня. Розсуд — це знання, що правильно, а не просто дозволено.

Грамотність у пояснюваності

Пояснюваність — основа довіри. Без неї прийняття рішень, клієнти та регулятори залишаються з питаннями, чому модель дійшла до певного висновку.

Це означає, що керівники мають розрізняти моделі, які є інтерпретованими, і ті, що потребують постфактумних пояснень (наприклад, SHAP або LIME). Вони мають ставити питання, коли логіка моделі незрозуміла, і розпізнавати, коли “точність” сама по собі не може виправдати рішення “чорної скриньки”.

Упередженість не виникає з нічого; вона з’являється, коли моделі тренують і застосовують без достатнього контролю. Пояснюваність дає керівникам можливість виявляти ці проблеми рано і діяти до того, як вони спричинять шкоду.

ШІ — це як автопілот у літаку. Більшу частину часу він працює гладко, але коли настає шторм, пілот має взяти кермо. У фінансах цей принцип той самий. Команди мають можливість зупинити торгівлю, змінити стратегію або навіть скасувати запуск продукту, коли умови змінюються. Пояснюваність працює разом із готовністю до втручання, що гарантує, що керівництво розуміє ШІ і залишається у контролі, навіть при масштабних операціях.

Модель ймовірнісного мислення

Керівники звикли до детермінованих рішень, наприклад, якщо кредитний рейтинг нижчий за 650 — відмовити у кредиті. Але ШІ працює інакше, і це суттєва зміна парадигми.

Для керівників ймовірнісне мислення вимагає трьох навичок:

*   Інтерпретувати діапазони ризиків, а не бінарні "так/ні".
*   Оцінювати рівень довіри до прогнозу з урахуванням інших бізнесових або регуляторних аспектів.
*   Знати, коли слід перевищити автоматизацію і застосувати людський розсуд.

Наприклад, ймовірнісна модель фінтеху може позначити клієнта як високоризикового, але це не означає “відмовити”. Це може означати “дослідити додатково” або “змінити умови кредиту”. Без цієї нюансованості автоматизація ризикує стати грубим інструментом, що руйнує довіру клієнтів і піддає компанію регуляторним санкціям.

Чому рівень розсуду визначатиме переможців у фінтеху

Майбутнє фінтеху не визначатиме, хто має найпотужніші моделі ШІ, а хто використовує їх із найгострішим розсудом. Оскільки ШІ стає товаром, вигоди від підвищення ефективності — це вже базовий рівень. Відмінність у перемозі — у здатності втручатися, коли алгоритми стикаються з невизначеністю, ризиком і етичними зонами сірого.

Рівень розсуду — це не абстрактна ідея. Він проявляється, коли керівники вирішують зупинити автоматичну торгівлю, відкласти запуск продукту або скасувати ризиковий кредитний рейтинг, що не враховує реальний контекст. Ці моменти — не провали ШІ; це доказ того, що людський контроль — останній рівень створення цінності.

Стратегічне узгодження — це те, де розсуд стає інституціоналізованим. Сильна стратегія ШІ не лише визначає технічні дорожні карти; вона забезпечує перегляд ініціатив, оновлення командних навичок у сфері ШІ, створення необхідної архітектури даних і зв’язок кожного впровадження з чітким бізнес-результатом. У цьому сенсі розсуд — не епізодична дія, а спосіб роботи, що дозволяє керівникам керувати на основі цінностей.

Фінтехи потребують лідерів, які вміють балансувати між швидкістю та масштабом ШІ і людським фактором — контекстом, нюансами та довгостроковим баченням. ШІ може за секунди виявити аномалії, але лише люди можуть вирішити, коли потрібно протистояти математиці, переосмислити припущення або ризикнути сміливим кроком для зростання. Цей рівень розсуду перетворює ШІ з інструменту на конкурентну перевагу.

Про автора:

Гільєрмо Delgado — глобальний лідер з ШІ у Nisum та операційний директор Deep Space Biology. З понад 25 роками досвіду у біохімії, штучному інтелекті, космічній біології та підприємництві, він розробляє інноваційні рішення для людського добробуту на Землі та у космосі.

Як консультант з корпоративної стратегії, він сприяв формуванню бачення NASA щодо ШІ у космічній біології та отримав нагороди за інновації. Має ступінь магістра наук у галузі штучного інтелекту від Georgia Tech, здобутий з відзнакою. Також, як університетський викладач, він викладав курси з машинного навчання, великих даних і геноміки.