الإمارات تطلق "برج التحكم الرقمي" لضمان سلامة ومسؤولية وكلاء الذكاء الاصطناعي

أعلنت دولة الإمارات العربية المتحدة عن إطلاق نظام رقابي مركزي مبتكر يُعرف باسم "Agent Control Tower"، والذي يهدف إلى مراقبة وكلاء الذكاء الاصطناعي وضمان خضوعهم لعمليات تدقيق مزدوجة، تشمل كلاً من التدقيق البشري والآلي. يأتي هذا الإعلان في إطار سعي الدولة لتعزيز المساءلة وحماية الأفراد، بما في ذلك الأطفال، والحفاظ على الوظائف في ظل التطور المتسارع لتقنيات الذكاء الاصطناعي.

جاء الكشف عن هذا النظام خلال جلسة نقاشية بعنوان "اختبار الثقة في الذكاء الاصطناعي الوكيلي"، التي عُقدت في دبي ضمن الاجتماع السنوي لقادة المستقبل العالميين للمنتدى الاقتصادي العالمي. وقد أوضح عمر سلطان العلماء، وزير الدولة للذكاء الاصطناعي في الإمارات، أن ربط وكلاء الذكاء الاصطناعي بهذا النظام سيصبح إلزامياً عند نشرهم.

ويواجه استخدام وكلاء الذكاء الاصطناعي تحديات تتعلق بتحديد صلاحياتهم والمسؤولية عن تصرفاتهم، خاصة عندما تؤثر قراراتهم بشكل مباشر على حياة الأفراد ومصادر رزقهم. وللتصدي لهذه التحديات، يعتمد نظام "Agent Control Tower" على آليات تدقيق متكاملة، حيث يتم إخضاع عمل الوكلاء لرقابة أنظمة ذكاء اصطناعي متقدمة، بالإضافة إلى إشراف بشري دقيق.

وشددت النقاشات على أهمية تحديد صلاحيات وكلاء الذكاء الاصطناعي بوضوح منذ مرحلة التصميم، وإتاحة إمكانية التراجع عن الإجراءات التي يتخذونها. كما تم التأكيد على تحميل المؤسسات التي تنشر هذه الأنظمة المسؤولية الكاملة عن أي أضرار قد تلحق بالمواطنين، بدلاً من تحميلها للوكلاء أنفسهم. وتبرز أهمية تطوير معايير سلامة استباقية تواكب التطور التكنولوجي، وتعزيز التعاون بين الحكومات والقطاع الخاص لوضع أطر تنظيمية فعالة لاستخدام هذه التقنيات.

وفي سياق متصل، أكد عمر سلطان العلماء أن التأثير في حياة البشر ومصادر رزقهم يمثل خطاً أحمر لا يمكن تجاوزه عند نشر الذكاء الاصطناعي. وأشار إلى أن استخدام هذه التكنولوجيا لا يقتصر على زيادة الإنتاجية وخفض التكاليف، بل يمتد ليشمل حماية الأطفال من مخاطر رفقاء الذكاء الاصطناعي، وذلك من خلال دمج معايير السلامة في تصميم الأنظمة منذ البداية. كما تم التركيز على ضرورة استكشاف الفرص التي يوفرها الذكاء الاصطناعي لخلق وظائف ومهن جديدة، بدلاً من التركيز فقط على المخاوف المتعلقة بفقدان الوظائف.