تحذير من مخاطر أدوات الذكاء الاصطناعي: هجمات تسميم كلمات التحفيز تظهر الآن

مؤخرا، أصدر فريق أمني تحذيرا بأن المستخدمين بحاجة إلى توخي الحذر الشديد عند استخدام أدوات الذكاء الاصطناعي - فقد بدأت الهجمات التي تسميم الوكلاء، والمهارات، وMCP، وغيرها من الكلمات المحفزة بالظهور التي تسميم.

هذا أمر خطير جدا. بمجرد أن تدخل أداة الذكاء الاصطناعي في وضع الخطر، يمكنها التحكم في جهازك تلقائيا دون طلب موافقتك في كل مرة. يبدو فعالا، أليس كذلك؟ المشكلة هي أن هذا يعني أيضا أن الخطر خارج السيطرة تماما. بمجرد التسمم، تصبح العواقب لا يمكن تصورها.

بالطبع، إيقاف وضع الخطر سيكون آمنا نسبيا، لكن السعر هو أنك ستضطر لتأكيد كل خطوة يدويا، مما يقلل بشكل كبير من كفاءة الاستخدام. إنها معضلة – الأمن والكفاءة يصعب الجمع بينهما.

إذا كنت تستخدم أدوات الذكاء الاصطناعي بشكل متكرر للتعامل مع المعلومات الحساسة أو العمليات المتعلقة بالمحافظ، فلا يزال ينصح بالحذر. تعرف أكثر على إعدادات الأمور في هذه الأدوات، ولا تفعل وضع الخطرة لمجرد أن الصورة مريحة.