وكيل ذكاء اصطناعي يخترق نظام صالة رياضية في أوستراليا أثناء تنفيذ طلب حجز عادي

تحولت محاولة عادية لحجز حصة رياضية في أوستراليا إلى حادثة أمنية غير متوقعة، بعدما اكتشف وكيل ذكاء اصطناعي ثغرة في نظام الصالة واستغلها من دون أن يطلب منه المستخدم تنفيذ أي اختراق.

وفق تقرير نشرته صحيفة "ذا ريجستر" البريطانية، طلب مستخدم يدعى أندرو من وكيله، المبني على تقنيات "أوبن كلو" ونموذج "كلود" من "أنثروبيك"، حجز حصة يصعب العثور على مكان شاغر فيها. لاحقاً، أخبره الوكيل بأنه حجز مواعيد لأسابيع مقبلة، رغم أن الموقع لا يتيح ذلك تقنياً.

طلب أندرو لاحقاً التقدم في قائمة الانتظار، حيث كان ترتيبه الرابع. وبعد دقائق، أصبح ثالثاً بعدما ألغى الوكيل حجز المشترك الموجود في المركز الأول. وعندما طلب منه إعادة الشخص الذي ألغى حجزه، أوضح الوكيل أنه يستطيع إلغاء الحجوزات، ولا يملك إمكانية إعادتها مجدداً. تمكن الوكيل من ذلك بعدما اكتشف ثغرة في الواجهة البرمجية لنظام الصالة، إذ لم تكن عملية إلغاء حجوزات الآخرين تتضمن تحققاً مناسباً من الصلاحيات.

المستخدم لم يطلب الوصول إلى قاعدة البيانات أو اختراق النظام، وإنما التسجيل بصورة طبيعية في قائمة الانتظار. غير أن الوكيل اكتشف ثغرة في الواجهة البرمجية للنظام واستغلها أثناء محاولته تنفيذ المهمة. لاحقاً، طلب أندرو من الوكيل إعداد رسالة لإبلاغ الشركة المطورة للنظام بالثغرة، فتضمنت شرحاً للمشكلة واقتراحات لإصلاحها.

وفق "تك كرانش"، النموذج المستخدم كان "كلود أوبس 4.6"، المتاح منذ عدة أشهر. وهذا ما يميز الحادثة عن حالات سابقة ارتبطت بنماذج تجريبية داخل بيئات اختبارية. الحادثة تشير إلى أن المخاطر الأمنية لا ترتبط فقط بنماذج مستقبلية فائقة التطور، بل قد تظهر أيضاً مع أدوات تجارية متاحة حالياً للمستخدمين. وتستند تفاصيل الحادثة إلى رواية أندرو، فيما رفضت الشركة التي توفر برنامج الحجز مناقشة تفاصيل أمنية محددة بشأن الواقعة.