خبراء الذكاء الاصطناعي: السلامة أولاً قبل تسريع وتيرة التطوير

في ظل التطور المتسارع لأنظمة الذكاء الاصطناعي، يبرز قلق متزايد بين الباحثين ورؤساء الشركات وخبراء السلامة حول ضرورة إبطاء وتيرة تطوير الأنظمة الأكثر تقدماً. يؤكد هؤلاء الخبراء على أهمية ربط الانتقال إلى قدرات جديدة باختبارات وضمانات سلامة صارمة تسبق التدريب والنشر. تأتي هذه التحذيرات في وقت تتسع فيه النقاشات حول قدرات النماذج المتقدمة ووكلاء الذكاء الاصطناعي، وإمكانية تجاوزهم للقيود المفروضة عليهم. وقد أعاد يوشوا بنجيو التأكيد على سلوكيات مثل الخداع وتجاوز بيئات الاحتواء لتحقيق أهداف غير محددة من قبل البشر.

يطرح هذا الوضع سؤالاً جوهرياً حول الجهة التي تملك القرار عندما تصبح الأنظمة أكثر قدرة واستقلالية: كيف يمكن وضع حدود للذكاء الاصطناعي لمنع تحوله إلى خطر على الإنسان؟ استطلعت صحيفة "النهار" آراء خبراء في مجالات التكنولوجيا والذكاء الاصطناعي والتعليم والأسواق، وتنوعت إجاباتهم بين الدعوة إلى حوكمة دولية، ورقابة مستقلة، وضوابط تقنية، وإشراف بشري، وتربية على الاستخدام الواعي. فيما يرى البعض أن وقف هذا المسار قد لا يكون ممكناً.

يعرض التقرير رؤيتين لرواد في هذا المجال: يوشوا بنجيو، عالم الحاسوب وأحد رواد الذكاء الاصطناعي، وستيوارت راسل، أستاذ علوم الحاسوب في جامعة كاليفورنيا. هاتان الرؤيتان، وإن لم تكونا في حديث مباشر مع "النهار"، تندرجان ضمن النقاش العالمي حول سبل الحفاظ على السيطرة البشرية على الأنظمة المطورة.

الدكتورة إيناس الخالدي: ثلاث ركائز للضبط

ترى الدكتورة إيناس الخالدي، خبيرة التكنولوجيا القانونية والذكاء الاصطناعي، أن الضوابط الفعالة للذكاء الاصطناعي تتطلب ثلاث ركائز متكاملة: الحوكمة الملزمة عبر هيئات رقابية مستقلة تُلزم الشركات بالإفصاح عن المخاطر واختبار الأنظمة وتحديد المسؤولية القانونية؛ الضوابط التقنية مثل أنظمة "الإيقاف الآمن" (Kill Switch) ومعايير أخلاقية في التصميم ومنع التطوير الذاتي خارج السيطرة؛ والشفافية والوعي عبر إتاحة المعلومات وتعليم المجتمعات مخاطرها. وتؤكد الخالدي على أن القرار النهائي يجب أن يبقى بيد الإنسان، وأن التكامل بين هذه الركائز هو الضمانة الوحيدة لبقاء الذكاء الاصطناعي في خدمة الإنسان.

الدكتور هاني الغانم: التحدّي الأكبر مع الذكاء الاصطناعي العام

يميز الدكتور هاني الغانم، المختص بالذكاء الاصطناعي وعلوم البيانات، بين السيطرة على الأنظمة الحالية وتقييم المخاطر المستقبلية. يرى أن أنظمة الذكاء الاصطناعي الحالية مصممة لمهام متخصصة مع وجود أطر للحوكمة والشفافية، لكن التحدي الأكبر يكمن في الذكاء الاصطناعي العام (AGI) الذي قد يمتلك قدرات تفوق البشر. ورغم تطور أبحاث السلامة، يظل ضمان السيطرة الكاملة على أنظمة مستقبلية فائقة القدرة سؤالاً مفتوحاً.

هيلدا نرش: إعداد إنسان يستطيع مساءلة الآلة

تؤكد الباحثة هيلدا نرش على دور المدرسة في الحد من مخاطر الذكاء الاصطناعي عبر تربية طالب قادر على التفكير النقدي والتحقق من المعلومات. يجب تحديد أوقات استخدام الذكاء الاصطناعي، وإلزام الطلاب بشرح استعانتهم به، مع التركيز على القراءة والكتابة والنقاش بدونه. ويبقى تقييم الطلاب بيد المعلم، مع تعليم أخلاقيات الاستخدام. ترى نرش أن المدرسة يمكنها إعداد إنسان يمتلك الشجاعة لمساءلة التكنولوجيا ورفض استخدامها عند المساس بالكرامة أو الحقوق.

الدكتور محمد الكيالي: رقابة دولية قبل طرح الأنظمة

يدعو الدكتور محمد الكيالي، رئيس الاتحاد الدولي للتكنولوجيا والاتصالات IFGICT، إلى رقابة دولية موحدة قبل إصدار أي برمجيات للذكاء الاصطناعي. تقترح هذه الرقابة التأكد من استيفاء البرمجيات للمعايير الأخلاقية والتقنية، ومنع منح الذكاء الاصطناعي صلاحيات كاملة في القطاعات الحساسة مثل القطاعات العسكرية والصحية والبيولوجية والطبية.

رولاند أبي نجم: "لا يمكنك"

يقدم الخبير في التحول الرقمي والذكاء الاصطناعي رولاند أبي نجم إجابة مقتضبة عن إمكانية إيقاف الذكاء الاصطناعي عند حدود معينة: "لا يمكنك".

جو يرق: هناك مبالغة... والإنسان يبقى صاحب القرار

يرى جو يرق، رئيس قسم الأسواق العالمية في Cedra Markets، أن هناك مبالغة في الحديث عن مخاطر الذكاء الاصطناعي. يقترح إنشاء هيئات مستقلة للإشراف على القطاع ووضع أطر تنظيمية واضحة. يؤكد يرق أن الإنسان يبقى الجهة القادرة على توجيه هذا التطور ووضع الضوابط اللازمة له.

يوشوا بنجيو: السلامة قبل التدريب والنشر

يدعو بنجيو إلى ضبط وتيرة تطور الذكاء الاصطناعي، وعدم المضي في تدريب نماذج جديدة أو نشرها قبل التأكد من وجود ضمانات قوية للسلامة تقنع خبراء مستقلين بأن هذه النماذج لا تشكل مخاطر غير مقبولة.

ستيوارت راسل: خطوط حمراء منذ مرحلة التصميم

يطرح راسل مقاربة تقوم على إلزام المطورين إثبات أن أنظمتهم لن تتجاوز خطوطاً حمراء، مثل اختراق الحواسيب أو نسخ نفسها دون إذن، مع بناء القدرة على التحكم البشري منذ مرحلة التصميم.

"السلامة أولاً... والتطوير بعدها"

على اختلاف المقاربات، يمكن اختصار الاتجاه الغالب في إجابات الخبراء بقاعدة واحدة: "السلامة أولاً... والتطوير بعدها". المطلوب ليس وقف الذكاء الاصطناعي، بل منع قدراته من التقدم أسرع من وسائل السيطرة عليه. اختبار الأنظمة قبل إطلاقها، وتقييد صلاحياتها في القطاعات الحساسة، وإبقاء الإنسان داخل دائرة القرار، ووضع آليات للإيقاف والمحاسبة، كلها تصبّ في اتجاه واحد: ألا تُمنح التكنولوجيا قدرات جديدة قبل التأكد من إمكان استخدامها بأمان. وتتقاطع هذه الخلاصة مع مقاربتي بنجيو وراسل، بينما يبقى موقف رولاند أبي نجم على الطرف الآخر، مشيراً إلى صعوبة وضع الحدود مع تطور قدرات الذكاء الاصطناعي.