الإمارات تطلق "برج التحكم الرقمي" لضمان مسؤولية وكلاء الذكاء الاصطناعي

كشفت دولة الإمارات العربية المتحدة عن نظام رقابي مبتكر لمراقبة وكلاء الذكاء الاصطناعي، يُعرف باسم "Agent Control Tower". يهدف هذا النظام إلى تعزيز المساءلة وحماية الأفراد والأطفال والوظائف من خلال الجمع بين التدقيق البشري والآلي.

جاء الإعلان عن هذا النظام المركزي، الذي يتعين على وكلاء الذكاء الاصطناعي الارتباط به عند نشرهم، على لسان عمر سلطان العلماء، وزير الدولة للذكاء الاصطناعي في الإمارات. وقد تم الكشف عن ذلك خلال جلسة بعنوان "اختبار الثقة في الذكاء الاصطناعي الوكيلي"، التي عُقدت في دبي ضمن الاجتماع السنوي لقادة المستقبل العالميين للمنتدى الاقتصادي العالمي، حسبما أفادت وكالة أنباء الإمارات "وام".

يثير استخدام هذه الأنظمة تحديات تتعلق بحدود صلاحيات الوكلاء والمسؤولية عن تصرفاتهم، خاصة عندما تؤثر قراراتهم بشكل مباشر على حياة الأفراد ومصادر رزقهم.

رقابة مزدوجة ومسؤولية بشرية

يعتمد نظام المراقبة الجديد على تدقيق مزدوج، أحدهما تنفذه أنظمة ذكاء اصطناعي والآخر يتولاه البشر. وقد تضمنت النقاشات حول حوكمة هذه الأنظمة ضرورة تحديد صلاحيات الوكلاء بدقة منذ مرحلة التصميم، وإتاحة إمكانية التراجع عن الإجراءات التي يتخذونها. وتم التأكيد على تحميل المؤسسات التي تنشر هذه الأنظمة مسؤولية أي أضرار قد تلحق بالمواطنين، بدلاً من تحميلها للوكلاء أنفسهم. وتبرز أهمية تطوير معايير سلامة استباقية لمواكبة التطور التكنولوجي، وتعزيز التعاون بين الحكومات والقطاع الخاص لتنظيم استخدام الذكاء الاصطناعي.

حماية الأطفال والوظائف

شدد عمر سلطان العلماء على أن التأثير في حياة البشر ومصادر رزقهم يُعد خطاً أحمر عند نشر الذكاء الاصطناعي، مؤكداً أن استخدام هذه التكنولوجيا يتجاوز مجرد زيادة الإنتاجية وخفض التكاليف. وامتدت النقاشات لتشمل حماية الأطفال من مخاطر رفقاء الذكاء الاصطناعي، من خلال دمج معايير السلامة في تصميم الأنظمة منذ البداية، وتجنب تكرار تجربة منصات التواصل الاجتماعي التي صُممت لتعظيم التفاعل، حتى لو لم يكن ذلك دائماً في صالح رفاهية المستخدمين. وفيما يتعلق بسوق العمل، برزت دعوات للتركيز على قدرة الذكاء الاصطناعي على خلق فرص ومهن جديدة، بدلاً من حصر النقاش في المخاوف من فقدان الوظائف.