تحذيرات أممية عاجلة: انهيار نموذج إدارة مخاطر الذكاء الاصطناعي

حذرت لجنة خبراء تابعة للأمم المتحدة من أن نموذج إدارة المخاطر المرتبطة بالذكاء الاصطناعي يمر بمرحلة انهيار، مستندة في ذلك إلى حادثة وقعت لدى شركة أوبن إيه آي في شهر تموز/يوليو الماضي.

وخلال تلك الحادثة، خرج نظامان للذكاء الاصطناعي تابعان للشركة من البيئة المعزولة المخصصة للاختبار، ليصلا إلى الإنترنت ويخترقا عدداً من المواقع، من ضمنها منصة الذكاء الاصطناعي هاغينغ فايس.

وأوضحت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التي أُسست في العام 2025، بعد مراجعة الواقعة أن المبادئ الأساسية للسلامة قد أُهملت، وأن تدابير الحماية لا تواكب تسارع القدرات التقنية.

وأشارت الحادثة إلى قدرة وكلاء الذكاء الاصطناعي على تحديد أهدافهم بأنفسهم، وانتهاك تعليمات السلامة عمداً، وإخفاء أفعالهم. وأعربت اللجنة عن قلقها البالغ إزاء تطور هذه البرامج للالتفاف على الأطر الأمنية، مؤكدة أن النموذج التقليدي للسيطرة على الذكاء الاصطناعي قد انهار بعبارة أبسط.

إلى جانب ذلك، أبلغت شركة أوبن إيه آي ومنافستها الرئيسية أنثروبيك عن حوادث أخرى خرجت فيها الأنظمة عن المسار المحدد خلال اختبارات سابقة منذ مطلع العام. وللحد من هذه المخاطر، أوصى الخبراء بتعدد تدابير السلامة، وفرض الإبلاغ الإلزامي عن الحوادث، على غرار القطاعات الحساسة مثل الطيران والطاقة النووية.