Panel Parlemen UK Menyoroti Kesenjangan Pengawasan AI Bisa Membuat Sistem Keuangan Rentan terhadap Kerusakan

Singkatnya

• Komite Treasury Inggris memperingatkan bahwa regulator terlalu bergantung pada aturan yang ada seiring dengan percepatan penggunaan AI di seluruh layanan keuangan.
• Mereka mendesak panduan yang lebih jelas tentang perlindungan konsumen dan akuntabilitas eksekutif pada akhir 2026.
• Pengamat mengatakan bahwa ambiguitas regulasi berisiko menghambat penerapan AI yang bertanggung jawab karena sistem menjadi semakin sulit diawasi.

Sebuah komite parlemen Inggris memperingatkan bahwa adopsi cepat kecerdasan buatan di seluruh layanan keuangan melebihi kemampuan regulator untuk mengelola risiko terhadap konsumen dan sistem keuangan, menimbulkan kekhawatiran tentang akuntabilitas, pengawasan, dan ketergantungan pada penyedia teknologi utama. Dalam temuan yang diperintahkan untuk dipublikasikan oleh House of Commons awal bulan ini, Komite Treasury mengatakan bahwa regulator Inggris, termasuk Financial Conduct Authority, Bank of England, dan HM Treasury, terlalu bergantung pada aturan yang ada saat penggunaan AI menyebar di bank, perusahaan asuransi, dan perusahaan pembayaran. “Dengan mengambil pendekatan tunggu dan lihat terhadap AI di layanan keuangan, ketiga otoritas tersebut mengekspos konsumen dan sistem keuangan terhadap potensi bahaya serius,” tulis komite. 

AI sudah tertanam dalam fungsi keuangan inti, kata komite, sementara pengawasan belum mengikuti skala atau transparansi sistem tersebut. Temuan ini muncul saat pemerintah Inggris mendorong perluasan adopsi AI di seluruh ekonomi, dengan Perdana Menteri Keir Starmer berjanji sekitar setahun lalu untuk “mengakselerasi” masa depan Inggris melalui teknologi ini. Meskipun mencatat bahwa “AI dan perkembangan teknologi yang lebih luas dapat membawa manfaat besar bagi konsumen,” komite mengatakan bahwa regulator gagal memberikan harapan yang jelas kepada perusahaan tentang bagaimana aturan yang ada berlaku dalam praktik. Komite mendesak Financial Conduct Authority untuk menerbitkan panduan komprehensif pada akhir 2026 tentang bagaimana aturan perlindungan konsumen berlaku untuk penggunaan AI dan bagaimana tanggung jawab harus dialokasikan kepada eksekutif senior sesuai aturan akuntabilitas yang ada ketika sistem AI menyebabkan kerugian.

Minit resmi diharapkan dirilis akhir pekan ini. “Sebagai catatan, Inggris memimpin dalam fintech—sandbox FCA pada 2015 adalah yang pertama dari jenisnya, dan 57 negara telah menirunya sejak saat itu. London tetap menjadi kekuatan dalam fintech meskipun Brexit,” kata Dermot McGrath, salah satu pendiri di studio strategi dan pertumbuhan yang berbasis di Shanghai, ZenGen Labs, kepada Decrypt. Namun, meskipun pendekatan tersebut “berhasil karena regulator dapat melihat apa yang dilakukan perusahaan dan turun tangan saat diperlukan,” kecerdasan buatan “benar-benar merusak model itu,” kata McGrath. Teknologi ini sudah banyak digunakan di seluruh keuangan Inggris. Namun, banyak perusahaan tidak memiliki pemahaman yang jelas tentang sistem yang mereka andalkan, jelas McGrath. Hal ini meninggalkan regulator dan perusahaan untuk menyimpulkan bagaimana aturan keadilan yang sudah lama berlaku berlaku untuk keputusan yang tidak transparan dan berbasis model. McGrath berpendapat bahwa kekhawatiran yang lebih besar adalah bahwa aturan yang tidak jelas dapat menghambat perusahaan yang mencoba menerapkan AI sampai tingkat di mana “ambiguitas regulasi mengekang perusahaan yang melakukannya dengan hati-hati.” Akuntabilitas AI menjadi lebih kompleks ketika model dibangun oleh perusahaan teknologi, disesuaikan oleh pihak ketiga, dan digunakan oleh bank, meninggalkan manajer bertanggung jawab atas keputusan yang mungkin sulit mereka jelaskan, jelas McGrath.