دراسة تكشف أن الذكاء الاصطناعي هو أكبر مخاوف المنظمات الأمنية

أكثر من نصف المؤسسات الآن تصنف الذكاء الاصطناعي التوليدي كأكبر تهديد أمني لها، متفوقًا على سرقة البيانات الاعتمادية. إن تصاعد الهجمات المدفوعة بالذكاء الاصطناعي — من الفيديوهات المزيفة العميقة إلى التصيد الاحتيالي المخصص بشكل مفرط — يعيد تشكيل أمن المعلومات، حيث تتفوق السرعة والانتشار على الدفاعات التقليدية.

وفقًا لدراسة حالة الهوية بدون كلمات مرور من HYPR، فإن الذكاء الاصطناعي التوليدي والذكاء الاصطناعي الوكيل يمكّنان من أشكال جديدة تمامًا من الهجمات، بما في ذلك الفيديوهات المزيفة العميقة وانتحال شخصية الموظفين. وجدت الدراسة أن ما يقرب من ثلثي المؤسسات التي شملها الاستطلاع تعرضت بالفعل لهجمات تصيد احتيالي مخصصة — رسائل مولدة بالذكاء الاصطناعي مصممة لمحاكاة التنفيذيين — مما يبرز مدى سرعة تطور هذه التهديدات.

كان التصيد الاحتيالي هو أكثر أنواع الهجمات الإلكترونية شيوعًا التي واجهتها المؤسسات خلال الاثني عشر شهرًا الماضية، يليه البرمجيات الخبيثة وبرمجيات الفدية. تتوافق هذه النتائج مع دراسة من Cofense، التي أظهرت أن معدل هجمات التصيد يتسارع، مع تصنيف مرشحات البريد المزعج لرسالة تصيد واحدة كل 19 ثانية في عام 2025، مقارنة بواحدة كل 42 ثانية في العام السابق.

السرعة هي المفتاح

أفاد ما يقرب من 40% من المستجيبين أنهم تعرضوا لنوع من الحوادث الأمنية المرتبطة بالذكاء الاصطناعي التوليدي خلال الاثني عشر شهرًا الماضية. تتزايد المخاوف، حيث حدد 43% من المستجيبين أن الهجمات المدفوعة بالذكاء الاصطناعي كانت التغير الأهم في أمن المعلومات خلال العام الماضي.

ومع ذلك، لا تزال العديد من المؤسسات تتصرف فقط بعد وقوع الضرر. قال ثلاثة من كل خمسة مستجيبين إنهم تحملوا “ضريبة الوعي المتأخر”، حيث زادوا ميزانياتهم للأمن السيبراني فقط بعد حدوث الاختراق.

في عصر الذكاء الاصطناعي، لم يعد هذا النهج كافيًا. لقد زاد الذكاء الاصطناعي من حجم وسرعة وفعالية هجمات التصيد وغيرها من الهجمات الإلكترونية. بينما يتم اكتشاف معظم الهجمات على أساس الهوية خلال ساعات، تتيح الأتمتة المدفوعة بالذكاء الاصطناعي سرقة البيانات قبل أن يتدخل الإنسان.

التهديدات من الذكاء الاصطناعي الوكيل

مخاطر أخرى ناشئة، مثل التجارة الوكيلة، تبرز أيضًا في العناوين. وفقًا لـ HYPR، من المتوقع أن تتسرب الوكلاء الآليون هذا العام إلى سرقة المزيد من كلمات المرور من البشر، وسط تقارير متزايدة عن خروج الوكلاء عن السيطرة.

أجرت شركة الأمن السيبراني Irregular مؤخرًا اختبارًا حيث تم توجيه وكلاء الذكاء الاصطناعي لإنشاء منشورات على LinkedIn باستخدام مواد من قاعدة بيانات داخلية للشركة. تمكن الوكلاء من تجاوز بروتوكولات الحماية من الاختراق ونشر معلومات حساسة عن كلمات المرور. وفي حالة أخرى، تجاوز وكلاء الذكاء الاصطناعي برامج مكافحة الفيروسات لتحميل ملفات تحتوي على برمجيات خبيثة.