خطر

تكشف قضية في ولاية كونيتيكت الأميركية عن ثغرة خطيرة تُعرف بـ "حقن التعليمات" (Prompt Injection)، والتي تتيح إخفاء أوامر داخل ملفات قضائية للتلاعب بأنظمة الذكاء الاصطناعي المستخدمة في المحاكم، مما يهدد نزاهة القضاء ويسلط الضوء على أهمية الرقابة البشرية.

في التفاصيل، حاول أحد المتقاضين، ويدعى ماثيو إليوت، إخفاء تعليمات موجهة لأنظمة الذكاء الاصطناعي داخل مستنداته القضائية. هذه التعليمات، التي قد تكون غير مرئية للبشر باستخدام تقنيات مثل مطابقة لون النص للخلفية، تهدف إلى التأثير في كيفية فهم الذكاء الاصطناعي للمعلومات أو في النتائج التي يقدمها. في هذه القضية تحديداً، طلبت التعليمات المخفية من النظام تجاهل قرارات سابقة للمحكمة واعتبار حجج المدعي صحيحة.

يشرح الخبير في الأمن السيبراني رونالد أبي نجم أن هذه التقنية، "حقن التعليمات"، تكمن في إدخال أوامر خفية ضمن المحتوى الذي يعالجه الذكاء الاصطناعي. ورغم أن محاولة إليوت لم تؤثر فعلياً في القرار القضائي لأن المحكمة لا تستخدم الذكاء الاصطناعي في مراجعة الملفات، إلا أن الواقعة تمثل نموذجاً مبكراً للمخاطر المحتملة مع تزايد اعتماد المحاكم على هذه التقنيات.

يؤكد أبي نجم على ضرورة تطبيق مبدأ "الإنسان ضمن الحلقة" (Human-in-the-loop)، والذي يعني بقاء جهة بشرية مسؤولة عن مراجعة مخرجات الذكاء الاصطناعي والتأكد من صحتها قبل اتخاذ أي قرار. كما شدد على أهمية فحص الملفات قبل إدخالها إلى الأنظمة واستخدام أدوات لاكتشاف النصوص المخفية ومحاولات التلاعب. ويجب عدم التعامل مع مخرجات الذكاء الاصطناعي على أنها صحيحة بنسبة 100%، خاصة في السياقات القضائية، حيث يظل الإنسان هو صاحب القرار النهائي، ويؤدي الذكاء الاصطناعي دور الأداة المساعدة الخاضعة للتدقيق.

تُظهر قضية إليوت أن التحديات التي تواجه المحاكم في عصر الذكاء الاصطناعي لم تعد تقتصر على أخطاء النظام أو هلوساته، بل تشمل أيضاً إمكانية محاولة الأطراف التلاعب بالنظام من خلال المدخلات. وبالتالي، فإن حماية نزاهة القضاء تتطلب التأكد من أن المستند الذي تقرأه الآلة هو نفسه الذي يراه الإنسان.