Етичні міркування при впровадженні DeepSeek AI у фінтех

Девін Партіда — головний редактор ReHack. Як письменниця, її роботи публікувалися в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf та інших.

Відкрийте для себе найкращі новини та події у сфері фінтех!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Штучний інтелект (ШІ) — одна з найперспективніших, але й найунікальніше тривожних технологій у фінтеху сьогодні. Тепер, коли DeepSeek викликав хвилю обговорень у сфері ШІ, його конкретні можливості та ризики вимагають уваги.

Хоча ChatGPT зробив генеративний ШІ популярним у 2022 році, DeepSeek підняв його на новий рівень з запуском моделі DeepSeek-R1 у 2025 році.

Алгоритм є відкритим і безкоштовним, але демонструє результати, порівнянні з платними приватними альтернативами. Тому це спокуслива бізнес-можливість для фінтех-компаній, які прагнуть використати ШІ, але це також ставить етичні питання.

Рекомендовані статті:

*   **Модель DeepSeek R1 викликає дискусії щодо майбутнього розвитку ШІ**
*   **Модель ШІ DeepSeek: можливості та ризики для малих технологічних компаній**

Захист даних

Як і багато застосунків ШІ, захист даних є важливим питанням. Великі мовні моделі (LLMs), такі як DeepSeek, потребують значної кількості інформації, а у сфері фінтех багато з цих даних можуть бути конфіденційними.

DeepSeek має додаткову складність через те, що він належить китайській компанії. Уряд Китаю може отримати доступ до всієї інформації на китайських дата-центрах або запитати дані у компаній у країні. Це створює ризики, пов’язані з іноземним шпигунством і пропагандою.

Ще однією проблемою є витоки даних третіх сторін. DeepSeek уже зазнав витоку, що розкрив понад мільйон записів, що може поставити під сумнів безпеку інструментів ШІ.

Упередження у ШІ

Моделі машинного навчання, такі як DeepSeek, схильні до упереджень. Оскільки ШІ дуже добре виявляє та навчається на тонких патернах, які можуть пропустити люди, вони можуть засвоювати підсвідомі упередження з навчальних даних. Навчаючись на такій упередженій інформації, вони можуть закріплювати та погіршувати проблеми нерівності.

Ці побоювання особливо актуальні у фінансах. Оскільки фінансові установи історично обмежували можливості для меншин, їхні історичні дані містять значну кількість упереджень. Навчання DeepSeek на таких наборах даних може призвести до подальших упереджених дій, наприклад, відмови у кредитах або іпотеці на основі етнічної приналежності, а не кредитоспроможності.

Довіра споживачів

Оскільки питання, пов’язані з ШІ, все частіше з’являються у новинах, громадськість стає все більш підозрілою щодо таких сервісів. Це може призвести до втрати довіри між фінтех-компанією та її клієнтами, якщо вона не буде прозоро керувати цими питаннями.

DeepSeek може стикнутися з особливим бар’єром. За повідомленнями, компанія створила свою модель всього за 6 мільйонів доларів і, як швидкозростаюча китайська компанія, може нагадати про проблеми з приватністю, що виникли навколо TikTok. Громадськість може не бути готовою довіряти низькобюджетній, швидко розробленій моделі ШІ з їхніми даними, особливо якщо на неї може впливати китайський уряд.

Як забезпечити безпечне та етичне впровадження DeepSeek

Ці етичні питання не означають, що фінтех-компанії не можуть безпечно використовувати DeepSeek, але підкреслюють важливість обережної реалізації. Організації можуть етично та безпечно впроваджувати DeepSeek, дотримуючись таких найкращих практик.

Запускайте DeepSeek на локальних серверах

Один із найважливіших кроків — запускати інструмент ШІ на внутрішніх дата-центрах. Хоча DeepSeek належить китайській компанії, його ваги моделі відкриті, що дозволяє запускати його на серверах у США та зменшити ризики порушень приватності з боку китайського уряду.

Однак не всі дата-центри однаково надійні. Ідеально, якщо фінтех-компанії зможуть розмістити DeepSeek на власному обладнанні. Якщо це неможливо, керівництво має ретельно обирати хостинг-партнера, який гарантує високий час роботи та відповідає стандартам безпеки, таким як ISO 27001 і NIST 800-53.

Обмежуйте доступ до конфіденційних даних

При створенні застосунку на базі DeepSeek фінтех-компанії мають враховувати, до яких даних модель може отримати доступ. ШІ має мати доступ лише до тієї інформації, яка необхідна для виконання його функцій. Також бажано очищати доступні дані від будь-якої непотрібної особистої ідентифікаційної інформації (PII).

Менше конфіденційних даних — менше ризиків у разі витоку. Обмеження збору PII також важливе для відповідності законам, таким як Загальний регламент захисту даних (GDPR) і Закон Грамм-Ліча-Беллі (GLBA).

Впроваджуйте заходи кібербезпеки

Регуляції, такі як GDPR і GLBA, зазвичай вимагають запровадження захисних заходів для запобігання витокам. Навіть поза рамками законодавства, історія витоків DeepSeek підкреслює необхідність додаткових заходів безпеки.

Щонайменше, фінтехи мають шифрувати всі дані, доступні ШІ, у стані спокою та під час передачі. Регулярне тестування на проникнення для виявлення та усунення вразливостей також є бажаним.

Фінтех-організації мають розглядати автоматичний моніторинг своїх застосунків DeepSeek, оскільки така автоматизація може заощадити в середньому 2,2 мільйона доларів на витратах через швидше реагування на інциденти.

Аудит та моніторинг усіх застосунків ШІ

Навіть після впровадження цих заходів важливо залишатися пильними. Перед запуском потрібно провести аудит застосунку на базі DeepSeek, щоб виявити ознаки упереджень або вразливостей безпеки. Пам’ятайте, що деякі проблеми можуть бути непомітними на початку, тому необхідний постійний контроль.

Створіть спеціальну команду для моніторингу результатів роботи ШІ та забезпечення його етичності й відповідності регуляціям. Також важливо бути прозорими з клієнтами щодо цієї практики. Це допоможе зміцнити довіру у цій сумнівній галузі.

Фінтех-компанії мають враховувати етику ШІ

Дані у фінтеху особливо чутливі, тому всі організації в цій сфері мають серйозно ставитися до інструментів, що залежать від даних, таких як ШІ. DeepSeek може бути перспективним бізнес-ресурсом, але лише за умови дотримання строгих етичних і безпекових стандартів.

Коли керівники фінтеху зрозуміють необхідність такої обережності, вони зможуть забезпечити безпечне та справедливе використання своїх інвестицій у DeepSeek та інші проекти ШІ.