الذكاء الاصطناعي في الامتثال ليس صندوقًا أسودًا — إنه اختبار للمساءلة: مقابلة مع رومان إلوشفيلي

رومان إلوشفيلي هو مؤسس شركة ComplyControl، شركة ناشئة تعتمد على الذكاء الاصطناعي للكشف عن الامتثال والاحتيال للمؤسسات المالية.

اكتشف أهم أخبار وفعاليات التكنولوجيا المالية!

اشترك في النشرة الإخبارية لـ FinTech Weekly

قراءة من قبل التنفيذيين في جي بي مورغان، كوين بيس، بلاك روك، كلارنا وغيرهم

ما الذي يختبره الذكاء الاصطناعي في الامتثال فعلاً: التكنولوجيا، أم نحن؟

في الخدمات المالية، لم يعد الامتثال مجرد وظيفة. إنه نقطة ضغط نشطة—حيث تتصادم اللوائح والمخاطر والعمليات. مع إدخال تقنيات الذكاء الاصطناعي في هذا المجال، يظل سؤال واحد يتكرر: إلى أي مدى يمكننا حقًا الأتمتة، ومن يظل مسؤولاً عندما تسوء الأمور؟

جاذبية الذكاء الاصطناعي في الكشف عن الاحتيال والامتثال سهلة الفهم. تواجه المؤسسات المالية توقعات متزايدة لمعالجة كميات هائلة من البيانات، والاستجابة للتهديدات المتطورة، والامتثال للتشريعات المتغيرة—كل ذلك دون التضحية بالسرعة أو الدقة. توفر الأتمتة، خاصة عند قيادتها بواسطة التعلم الآلي، وسيلة لتقليل العبء التشغيلي. لكنها تثير أيضًا مخاوف أعمق بشأن الحوكمة، والشرح، والسيطرة.

هذه التوترات ليست نظرية. فهي تتكشف في الوقت الحقيقي، حيث تنشر الشركات المالية نماذج الذكاء الاصطناعي في أدوار كانت تُشغل سابقًا بواسطة محللين بشريين. وراء الكواليس، تظهر مخاطر جديدة: الإيجابيات الكاذبة، النقاط العمياء في التدقيق، والقرارات الخوارزمية التي تظل غامضة للمستخدمين والمنظمين على حد سواء.

وفي الوقت نفسه، يُطلب من محترفي الامتثال تغيير أدوارهم. بدلاً من فحص كل معاملة يدويًا، أصبحوا الآن يشرفون على الأدوات التي تقوم بذلك. هذا إعادة صياغة—from المنفذ إلى المقيم—تتطلب ليس فقط مهارات تقنية جديدة، بل أيضًا إحساسًا أقوى بالمسؤولية الأخلاقية والإجرائية. يمكن للذكاء الاصطناعي توسيع نطاق تحليل البيانات. يمكنه تمييز التناقضات. لكنه لا يستطيع شرح النية بالكامل، أو تفسير السياق، أو تحمل اللوم.

فهم هذه الحدود أمر حاسم. وقليلون هم الأشخاص الذين هم في وضع أفضل لاستكشافها من رومان إلوشفيلي، مؤسس شركة ComplyControl البريطانية لتقنيات الامتثال. عمله يقف تمامًا عند تقاطع المخاطر، والأتمتة، والرقابة—حيث تلتقي الكفاءة الخوارزمية مع التدقيق التنظيمي.

مع أكثر من عقد من الخبرة في المجال، رأى رومان عن كثب كيف تتطور فرق الامتثال وكيف يعيد الذكاء الاصطناعي تشكيل سير العمل ومسؤولياتهم. يجادل بأن وعد الذكاء الاصطناعي لا يكمن في القضاء على الأدوار البشرية، بل في إعادة تشكيلها—وإضفاء وضوح جديد على ما يجب أن تتولاه الآلات، وما يجب أن يظل الإنسان مسؤولاً عنه.

هذا التحول يتطلب أكثر من ترقية تقنية. إنه يتطلب إعادة تنظيم ثقافية حول المساءلة. الأنظمة الشفافة، والعمليات القابلة للتدقيق، والمسؤولية البشرية المحددة بوضوح لم تعد مجرد ميزات—بل هي الحد الأدنى من المعايير. عندما يُدخل الذكاء الاصطناعي في البنى التحتية الحيوية، فإنه لا يحل المشكلات فقط. بل يُدخل فئة جديدة من القرارات التي تتطلب إدارة نشطة واستراتيجية.

في هذا الحوار مع FinTech Weekly، يقدم رومان رؤية واقعية لما يتطلبه دمج الذكاء الاصطناعي بمسؤولية في الامتثال والكشف عن الاحتيال. لا يرى أن الأتمتة حتمية، بل خيار—واحد يتطلب حكمًا بشريًا مستمرًا، ووضوحًا تشغيليًا، واستعدادًا لطرح أسئلة صعبة حول مكان الثقة الحقيقي.

يسعدنا أن نشارك رؤاه في وقت يتساءل فيه الكثيرون في مجال التكنولوجيا المالية ليس عما إذا كان ينبغي اعتماد الذكاء الاصطناعي—بل كيف يمكن القيام بذلك دون أن نغفل عن المعايير التي جعلت الأنظمة المالية تعمل في المقام الأول.

1. لقد بنيت مسيرتك المهنية عند تقاطع الامتثال والتكنولوجيا. هل تتذكر اللحظة التي أدركت فيها أن الذكاء الاصطناعي يمكن أن يغير بشكل جوهري طريقة إدارة المخاطر؟

لن أقول إنه كان لحظة واحدة محددة غيرت كل شيء. بل كان عملية متفرقة. قضيت جزءًا كبيرًا من مسيرتي في العمل مع بنوك أوروبية راسخة، وكنت ألاحظ أن العديد منها متأخرة جدًا عندما يتعلق الأمر بالحلول المصرفية الرقمية. وكان التباين واضحًا بشكل خاص مقارنة بمراكز التكنولوجيا المالية الأكثر تقدمًا.

قبل عدة سنوات، عندما بدأ موضوع تطوير الذكاء الاصطناعي يشتد من جديد، أصبحت فضوليًا بطبيعة الحال وبدأت أبحث فيه. ومع دراستي للتقنية وكيفية عملها، أدركت أن الذكاء الاصطناعي لديه القدرة على تغيير جذري في طريقة تعامل البنوك مع الامتثال، مما يجعلها أكثر توازيًا مع لاعبي التكنولوجيا المالية الحديثين والأكثر مرونة.

هذا ما دفعني لإطلاق شركتي في 2023. فتعقيد إدارة الامتثال والمخاطر لا يتوقف عن النمو سنة بعد أخرى. في مواجهة هذه الحقيقة، مهمتنا بسيطة: تقديم حلول تعتمد على الذكاء الاصطناعي للشركات المالية ومساعدتها على التعامل مع هذه التحديات المتزايدة بشكل أكثر فاعلية.

2. من وجهة نظرك المهنية، كيف تطور دور الخبراء البشريين مع تقدم أدوات الذكاء الاصطناعي في الامتثال والكشف عن الاحتيال؟

قبل أن أقول أي شيء آخر، دعني أتناول أمرًا مباشرًا. هناك قلق شائع عبر العديد من المجالات حول ما إذا كان الذكاء الاصطناعي سيحل محل العاملين البشريين. وبالنسبة لمحترفي الامتثال والمخاطر، إجابتي لا—على الأقل، ليس في الوقت القريب.

بينما يغير الذكاء الاصطناعي صناعتنا بالفعل، فهو لا يزال بعيدًا عن أن يكون خاليًا من الأخطاء. لذلك، يظل التدخل البشري عنصرًا أساسيًا. تتغير لوائح الامتثال باستمرار، ويجب أن يكون هناك من يتحمل المسؤولية عندما تفشل الأنظمة أو ترتكب أخطاء. في مستواه الحالي، لا يزال الذكاء الاصطناعي يواجه صعوبة في شرح قراراته بوضوح، لذلك فهو غير جاهز ليُترك بمفرده. خاصة في مجال حيث الثقة والشفافية أمران حاسمان.

ومع ذلك، فإن الذكاء الاصطناعي يجعل عمليات الامتثال أسهل بشكل فعال. على سبيل المثال، وفقًا للتكوين، يمكن لأنظمة الذكاء الاصطناعي الآن تمييز المعاملات المشبوهة أو حتى حظرها مؤقتًا مع طلب التحقق الإضافي. لا حاجة لوجود إنسان حقيقي لتمشيط كل تفصيل يدويًا، إلا إذا برز شيء غريب حقًا. ومع تطور هذه الأنظمة، ستستمر في تقليل الحاجة للعمل اليدوي، مما يسمح للفرق بالتركيز على مهام أكثر تعقيدًا تتطلب لمسة بشرية.

أعتقد أننا سنشهد ظهور نموذج هجين، حيث سيصبح خبراء الامتثال أكثر كفاءة في استخدام أدوات الذكاء الاصطناعي. سيكونون هم من يطبقون ويصونون أنظمة الذكاء الاصطناعي، بينما يبسط الذكاء الاصطناعي عملهم من خلال فهم البيانات المعقدة وتقديم التوصيات. ومع ذلك، يبقى الحكم النهائي للبشر.

3. عند العمل مع الذكاء الاصطناعي في مجالات حساسة مثل الامتثال المالي، كيف تعاملت شخصيًا مع تحدي الحفاظ على الثقة والمساءلة في اتخاذ القرارات؟

بالطبع. كما ذكرت سابقًا، عندما تستخدم الذكاء الاصطناعي في الامتثال، الثقة أمر حاسم.

لهذا السبب بنينا أنظمتنا على الشفافية الكاملة. فهي لا تعمل كـ"صندوق أسود"—كل توصية تقدمها النظام تستند إلى قواعد وبيانات قابلة للتتبع. نحفظ سجل تدقيق كامل لكيفية اتخاذ كل قرار، بحيث يكون قابلًا للتفسير تمامًا. أثبتت هذه الممارسة قيمتها بشكل كبير عند التعامل مع المنظمين.

القرار النهائي دائمًا يكون من مسؤولية موظف الامتثال. يقدم الذكاء الاصطناعي ببساطة اقتراحًا مبررًا يمكن للبشر فحصه بسهولة واتخاذ قرار بالموافقة أو الرفض.

4. خبرتك تمتد لأكثر من 10 سنوات. كيف تغيرت نظرتك حول الأتمتة والإشراف البشري خلال مسيرتك، خاصة الآن مع تزايد استقلالية الذكاء الاصطناعي؟

بالتأكيد. بشكل أوسع، مع تقدم تقنية الذكاء الاصطناعي، كلما زادت استقلاليتها، سمحنا لها تدريجيًا بذلك—طالما أنها خضعت للاختبار بشكل شامل واستمرت في إثبات موثوقيتها.

لكن ما يتغير أكثر هو الدور الذي يلعبه المختص البشري في هذا المعادلة. بدلًا من إدارة كل حالة بشكل دقيق، أصبح مسؤولو الامتثال يلعبون الآن دور المشرفين الاستراتيجيين بشكل متزايد. يمكنهم مراجعة دفعات كاملة من الحالات المماثلة بسرعة، والتحقق من أداء النظام، وضبط النماذج بناءً على النتائج.

بعبارة أخرى، يتغير الدور الفعلي لموظفي الامتثال من أداء العمل يدويًا إلى إدارة أنظمة الذكاء الاصطناعي كما تفعل هي.

5. العمل في إدارة المخاطر المدفوعة بالذكاء الاصطناعي يتطلب التنقل بين أسئلة أخلاقية معقدة. كيف طورت شخصيًا إطار عمل لاتخاذ قرارات مسؤولة عند تصميم أو تنفيذ حلول تعتمد على الذكاء الاصطناعي؟

بنيت منهجنا حول فكرتين رئيسيتين: الرقابة الواضحة ومبادئ الذكاء الاصطناعي المسؤول. كل نموذج نستخدمه لديه شخص معين مسؤول عنه. تقييمات المخاطر، مراجعات الأداء، وفحوصات الامتثال تُجرى بانتظام.

كما نحرص على أن تكون أنظمتنا قابلة للتدقيق. إذا اتخذ الخوارزمية قرارًا، يمكن مراجعة تلك العملية والتحقق منها. هذا الشفافية جزء أساسي من التزامنا بتطوير ذكاء اصطناعي مسؤول.

6. خلال مسيرتك، ما هو الدرس المهني الأصعب الذي تعلمته حول حدود—أو مخاطر—الاعتماد المفرط على الأتمتة في مجالات حاسمة مثل منع الاحتيال؟

درس واحد بالتأكيد يجب أن نضعه في الاعتبار هو أن النماذج المدربة جيدًا يمكن أن “تتوهم”—وترتكب أخطاءً بطريقة دقيقة وخطيرة.

يمكن للذكاء الاصطناعي أن يفوت مخططات احتيال معقدة، أو قد يطلق الكثير من التنبيهات الكاذبة. لهذا السبب، من المهم جدًا الجمع بين الذكاء الاصطناعي والخبرة البشرية—البشر يجلبون حكمًا مرنًا ويكونون أفضل في تقييم الأخلاقيات والسياق بشكل عام بطرق لا يستطيع الذكاء الاصطناعي القيام بها.

التوازن بين الاثنين يعد بنتائج أفضل وأكثر موثوقية. يمكن للذكاء الاصطناعي أن يغطي حجم المهام الكبير ويخفف من تعقيدها، بينما يظل الإنسان مسؤولاً عن الحفاظ على مستوى الدقة والثقة المناسبين.

7. للمحترفين الشباب الذين يدخلون مجالات الامتثال، إدارة المخاطر، أو تطوير الذكاء الاصطناعي اليوم، ما المبادئ أو العادات الشخصية التي تنصحهم بتنميتها للنجاح والتكيف في بيئة تتغير بسرعة كهذه؟

أولاً وقبل كل شيء: لا تتوقف أبدًا عن التعلم. التقدم التكنولوجي لا يوجد لديه زر “إيقاف”، ويجب أن تواكب التطور أو تُترك خلف الركب. لا يوجد خيار وسط هنا.

ثانيًا، فكر بشكل واسع. مع تقدم الذكاء الاصطناعي، تتداخل الأدوار أكثر فأكثر—التكنولوجيا، التمويل، والتنظيم تصبح مزيجًا واحدًا. أنا مقتنع أن امتلاك مجموعة مهارات واسعة وعقل منفتح سيكون السمة الحاسمة للمحترفين المستقبليين في المجال.

ثالثًا—وهو امتداد طبيعي للنقطتين السابقتين—كن مرنًا. التغيير مستمر، والقدرة على التكيف بسرعة ستكون ميزة كبيرة لك.

وأخيرًا، طور مهارات اتصال قوية وتعلم كيف تكون عضو فريق فعال. كما ناقشنا سابقًا، الامتثال يقف عند تقاطع الأعمال والتكنولوجيا والقانون. لذلك، القدرة على التبديل بين الأدوار والتواصل مع أشخاص من جميع هذه المجالات ستكون مهارة قيمة تكتسبها.