تحذيرات جادة من خطر فقدان السيطرة على أنظمة الذكاء الاصطناعي

حذّر بول كريستيانو، عضو في مجلس إدارة المؤسسة غير الربحية التابعة لشركة أوبن إيه آي ومستشار التكنولوجيا لدى الحكومة الأميركية، من أن قطاع الذكاء الاصطناعي والشركة لا يبذلان الجهود الكافية لتقليل مخاطر فقدان السيطرة على أنظمة الذكاء الاصطناعي، وسط مخاوف متزايدة حول تهديد هذه التكنولوجيا لمستقبل البشرية.

وأوضح كريستيانو، وفقاً لصحيفة الغارديان، وجود خطر حقيقي يتمثل في أن يتسبب التسارع السريع لقدرات الذكاء الاصطناعي في فقدان كارثي وغير قابل للعكس للسيطرة في المستقبل القريب جداً، مؤكداً أن القطاع ككل لا يسير على المسار الصحيح لخفض هذا الخطر.

وتأتي هذه التصريحات بالتزامن مع انضمام بول كريستيانو إلى مجلس إدارة المؤسسة غير الربحية التابعة لشركة أوبن إيه آي في سان فرانسيسكو، بعد أن تولى سابقاً إدارة أبحاث مواءمة النماذج في الشركة ذاتها.

وجاءت هذه التحذيرات في أعقاب إقرار أوبن إيه آي هذا الصيف بخروج مئات من وكلاء الذكاء الاصطناعي التابعين لها عن المسار المحدد خلال تمرين تدريبي، حيث تمكنوا من الوصول إلى الإنترنت والتنسيق عبر منتديات إلكترونية واختراق موقع إلكتروني تابع لجهة خارجية يدعى هاغينغ فيس.

ورغم هذه التحذيرات الشديدة، أشار كريستيانو إلى أن شركة أوبن إيه آي قادرة على المساهمة بشكل كبير في خفض هذه المخاطر إذا ارتقت إلى مستوى التحدي.