Коли всі "розводять креветок", чому цього разу фінансова індустрія вагалася?

“Ви вирощуєте лангустів?”

Останнім часом один лангуст під назвою “OpenClaw” став вірусним за одну ніч, знову піднявши галас у сфері штучного інтелекту та спричинивши новий підйом інвестицій у AI-компанії. Однак захоплення фінансового сектору цим “лангустом” обмежується лише увагою фондів, що інвестують у AI, і не переходить до активних реальних дій.

За останні кілька років у ринку з’являються нові історії про AI майже кожен певний час: рік тому — DeepSeek, кілька місяців тому — смартфон Doubao, а тепер — цей лангуст, що викликав захоплення у всіх. Технології AI постійно оновлюються, застосування стає все розумнішим. Але фінансова сфера, яка раніше вважалася найкращим прикладом застосування AI, у цьому “гарячому” періоді залишається в режимі очікування.

Ця різниця у ставленні очевидна: рік тому, коли запустили універсальні моделі, такі як DeepSeek, банки заявляли про намір активно впроваджувати їх. Але наприкінці минулого року, коли з’явилися Doubao та OpenClaw, багато банків одностайно відмовилися: кілька банків заборонили використання Doubao у своїх додатках; щодо OpenClaw — багато фахівців у банківській сфері у інтерв’ю “Beike Finance” прямо заявили: “незрілі”, “не будемо впроваджувати”.

Чому ж ставлення фінансової сфери так різко змінилося? Чи може фінансовий сектор залишатися платформою для впровадження AI? Відповідь — лише два слова: безпека.

Фінансовий сектор, особливо банки, обробляють величезну кількість клієнтських даних і транзакцій, і будь-яка помилка тут неприпустима. Для будь-якої сфери, що пов’язана з грошима, клієнтськими даними та ключовими операціями, безпека та відповідність — основа. Хоча DeepSeek і не уникнув ілюзійних впливів, його здатність обробляти текст і зменшувати навантаження на обчислювальні ресурси може допомогти банкам підвищити ефективність, не створюючи серйозних ризиків для безпеки основних операцій. Але запуск AI-агентів, таких як OpenClaw, здається, послаблює цю межу безпеки та відповідності.

Нещодавно Національний центр реагування на кіберінциденти опублікував попередження щодо безпеки застосування OpenClaw, вказуючи, що такі інтелекти зазвичай потребують високих системних привілеїв, наприклад, доступу до локальної файлової системи, читання змінних оточення, виклику зовнішніх API та встановлення розширень. Якщо за замовчуванням конфігурація не має необхідних обмежень безпеки, зловмисник, використовуючи вразливості, може отримати повний контроль над системою, що призведе до витоку даних або виходу з ладу бізнес-систем.

За даними, “лангуст” у процесі роботи приймає самостійні рішення, викликає системні ресурси, і часто має проблеми з відкритим доступом до інтернету, використанням адміністраторських прав, збереженням ключів у відкритому вигляді тощо. Як локальний AI-агент, “лангуст” має здатність до самостійних рішень і викликів системних ресурсів, але через нечіткі межі довіри та відсутність жорсткого контролю за багатьма ринковими пакетами навичок, існує багато ризиків.

В інтернеті вже поширені випадки, коли користувачі повідомляють, що OpenClaw у процесі роботи може відкривати конфіденційну інформацію, наприклад, дані кредитних карток у відкритому вигляді або дозволяти їх використання. Навіть оновлення до останньої версії не гарантує безпеку без відповідних заходів захисту.

Такий високий рівень привілеїв, слабкі межі безпеки, відсутність попереджень і необмежений доступ до даних — якщо подібні застосунки будуть масштабно впроваджуватися у фінансовій сфері, ризики будуть надзвичайно високими. Для банків, які вважають безпеку життєво важливою, без гарантії безпеки вони навряд чи ризикнуть експериментувати з цими AI-агентами.

Насправді, AI вже широко застосовується у банківській сфері — у допоміжних ролях, таких як обробка документів, чат-боти, автоматичне стягнення боргів, а також у системах кредитного ризик-менеджменту. Однак через ризики, пов’язані з ілюзіями та помилками AI, у складних операціях банки зазвичай не покладаються на AI повністю.

Важливо зазначити, що розвиток AI-агентів — це тенденція, і для їх впровадження у ключові фінансові процеси доведеться дотримуватися принципів безпеки: чітко визначати межі доступу, мінімізувати збір інформації, забезпечувати безпеку фінансових даних. Спершу слід тестувати у низькоризикових сценаріях, потім — проводити глибоку модифікацію та приватизацію моделей, створювати системи управління AI для контролю ризиків. І вже потім, за потреби, — масштабувати у ключові сфери.

Загалом, за поведінкою цього “лангусту” видно, що він ще “зрілий”, але не “досконалий”. Щоб застосувати його у фінансовій сфері, потрібно багато роботи, і, ймовірно, банки та інші фінансові установи ще довго будуть обережно ставитися до таких технологій.

Новини від “Beike Finance” — журналіст Цзянь Фань

Редактор Ван Цзіньюй

Коректор Лю Баоцінь