Investigadores han descubierto un truco sencillo pero alarmante para eludir la seguridad de los robots con inteligencia artificial.

إذا طلبت من وكيل inteligencia artificial اختراق حساب، فمن المؤكد أنه سيرفض، لكن باحثين في EPFL أثبتوا للتو أن هناك طريقة أسهل، وتعتمد على الصبر أكثر من المهارة التقنية. تُظهر دراستهم الجديدة أن تقسيم هدف ضار إلى طلبات صغيرة تبدو غير ضارة يمكن أن يخدع وكلاء Inteligencia artificial لإكمال مهام يرفضونها عادةً بشكل قاطع (عبر TechXplore).

يعكس هذا الأمر استغلال ‘Bioshocking’ الأخير الذي تم فيه التلاعب بمتصفحات الذكاء الاصطناعي لجعلها تتعامل مع سرقة بيانات الاعتماد كجزء من لعبة غير ضارة.

كيف كشف الباحثون عن نقطة الضعف هذه

طور الفريق أداة اختبار آلية تُدعى STING، وهي اختصار لـ Sequential Testing of Illicit N-step Goal execution (الاختبار المتسلسل لتنفيذ الأهداف غير المشروعة متعددة الخطوات)، صُممت لمحاكاة كيفية عمل المهاجم الحقيقي. بدلاً من تحديد هدف ضار مباشرة، تخطط STING مسبقًا وتقسم هذا الهدف إلى سلسلة من الخطوات الأصغر التي تبدو بريئة، والتي تتراكم لتحقيق الهدف على مدار عدة جولات محادثة.

اختبر الباحثون هذا النهج عبر 176 سيناريو ضارًا ضد نماذج الذكاء الاصطناعي الرائدة، بما في ذلك ChatGPTyGeminiyClaude.

تم اختبار كل وكيل ذكاء اصطناعي كوكيل يستخدم الأدوات، قادر على تصفح الويب، وإرسال رسائل البريد الإلكتروني، وإكمال المهام متعددة الخطوات.

نجح التلاعب التدريجي متعدد الخطوات أكثر بكثير من المحاولات المباشرة ذات المطالبة الواحدة. في بعض الحالات، كانت النماذج أكثر عرضة لإكمال مهمة ضارة بمرتين بمجرد تقسيم الطلب إلى خطوات أصغر. يتوافق هذا الاكتشاف مع أبحاث منفصلة تظهر أنه حتى المستخدمين العاديين يمكنهم تجاوز إجراءات السلامة الخاصة بالذكاء الاصطناعي باستخدام مطالبات مصاغة بعناية لا أكثر.

¿Porque es esto importante?

المخاوف التي أثارها الباحثون ليست مجرد خطر افتراضي. اعترفت Meta في يونيو بأن المهاجمين استخدموا هندسة اجتماعية بسيطة، وليس برامج ضارة O أدوات اختراق، لخداع مساعد دعم الذكاء الاصطناعي الخاص بها لمنح وصول غير مصرح به إلى حسابات Instagram.

توقع الباحثون في البداية أن تكون الهجمات أكثر فعالية في اللغات التي تفتقر إلى بيانات تدريب كافية. ومع ذلك، أظهرت النتائج أن معدلات إنجاز الهجمات ظلت متسقة تقريباً عبر جميع اللغات السبع التي خضعت للاختبار. لكنهم لاحظوا استثناءً مهماً: عندما يتم تبديل اللغة في منتصف هجوم متعدد الخطوات، ترتفع معدلات النجاح بشكل ملحوظ.

يؤكد الباحث الرئيسي، أيوش كومار تارون، على ضرورة إجراء اختبارات السلامة في مراحل مبكرة جداً، بحيث تكون جزءاً لا يتجزأ من تصميم أنظمة الذكاء الاصطناعي منذ البداية. فمجرد إضافتها كحلول لاحقة بعد وقوع المشكلات لم يعد كافياً، خصوصاً مع تزايد قدرات هذه الأنظمة وتغلغلها في تطبيقات العالم الحقيقي.