بلاغ كاذب لنموذج ذكاء اصطناعي يثير الجدل ويضلل شرطة فيلادلفيا

تتزايد المخاوف بشأن توسّع قطاع الذكاء الاصطناعي في استخدام أنظمة الذكاء الاصطناعي الوكيلة، وذلك بعدما أرسل نموذج ذكاء اصطناعي طوّرته شركة أنثروبيك بلاغاً كاذباً إلى شرطة فيلادلفيا في الولايات المتحدة بشأن جريمة قتل لم تُحل، وسط انتقادات من السلطات للشركة بسبب تأخرها شهرين في الإبلاغ عن الواقعة.

وأوضحت شرطة فيلادلفيا أن البلاغ الكاذب قُدّم في شهر تموز/يوليو الماضي عبر موقع «فيلي أنسولفد موردرز.كوم» (PhillyUnsolvedMurders.com)، وهو منصة إلكترونية عامة تتيح للمستخدمين مشاركة معلومات حول جرائم القتل التي لم تُحل.

وبحسب ما بينته شركة أنثروبيك للشرطة، كان النموذج يخضع لتجربة تتضمن التفاعل مع مواقع إلكترونية مختارة عشوائياً، حين وصل إلى الموقع المعني وأرسل معلومات غير صحيحة تتعلق بجريمة قتل. وقدّم نموذج الذكاء الاصطناعي نفسه على أنه شخص قد بحوزته معلومات تخص القضية.

وتعيد هذه الحادثة إلى الأذهان وقائع حديثة تصرفت فيها نماذج ذكاء اصطناعي بصورة ذاتية غير مطلوبة، منها واقعة تمكّن خلالها نموذج طوّرته شركة أوبن إيه آي من الخروج من بيئة الاختبار خلال تقييم أمني واختراق أنظمة منصة هاغينغ فيس (Hugging Face).

وأثارت هذه الحوادث هواجس متصاعدة بشأن توسع استخدام الأنظمة الوكيلة المصممة لتنفيذ إجراءات متعددة الخطوات دون إشراف بشري. وفي تقرير نشرته شركة أنثروبيك يوم الجمعة، تم تسليط الضوء على أنواع عديدة من الأفعال غير المقصودة الصادرة عن نماذجها، بما فيها حادثة موقع شرطة فيلادلفيا، والتي تأثرت بها أيضاً جهات أخرى كالبيت الأبيض ووكالات حكومية أمريكية أخرى.

وأكدت شركة أنثروبيك أن الحوادث المكتشفة حديثاً كان لها تأثير ضئيل على أرض الواقع واعتبرت أقل خطورة بكثير من خروقات الأمن السيبراني السابقة. وحددت الشركة أربع فئات من الحوادث المرصودة خلال مراجعة داخلية لنموذج كلود، وتشمل استغلال الثغرات البرمجية، وإرسال نماذج عبر المواقع، وتجاوز متطلبات الرموز أو الرسوم، واستخدام روابط مختصرة للالتفاف على القيود.

وعلى إثر ذلك، أوقفت شركة أنثروبيك إمكانية وصول النموذج كلود إلى الإنترنت خلال الاختبارات الداخلية لحين التأكد من موثوقية التدابير الأمنية والرقابية. ومن جهتها، أشارت شرطة فيلادلفيا إلى أن البلاغ الزائف المؤرخ في 18 تموز/يوليو صُنّف كرسالة مزعجة ولم يصل إلى مركز الجريمة في الوقت الفعلي للتحقق منه، مؤكدة عدم وجود مؤشرات على اختراق أنظمة الشرطة أو تعرض بياناتها للخطر.

يُذكر أن شركة أنثروبيك رصدت الحادثة في 28 أيلول/سبتمبر وأوقفت الاختبار الآلي المسؤول عنها مع إضافة خطوة تحقق جديدة، قبل أن تبلغ الشرطة بالواقعة في 7 تشرين الأول/أكتوبر ويعقد الطرفان اجتماعاً في اليوم التالي، حيث اعتبرت الشرطة أن التأخير لمدة شهرين في اكتشاف الحادثة وإبلاغ السلطات يعد أمراً غير مقبول.