دعوة من رئيس مايكروسوفت لفرض "فرامل طوارئ" وضوابط بشرية على أنظمة الذكاء الاصطناعي

دعا ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، إلى ضرورة وضع ضوابط بشرية مستقلة و"فرامل طوارئ" لأنظمة الذكاء الاصطناعي المتقدمة، وذلك لاحتواء مخاطرها وسط تصاعد المنافسة التكنولوجية.

وفي منشور له بعنوان "النماذج بوصفها مخاطر داخلية في عصر الذكاء الفائق"، أشار ساتيا ناديلا إلى صعوبة فهم آليات عمل النماذج المتقدمة مقارنة بالبرمجيات التقليدية، مما يتطلب فصلاً بين قدرات الذكاء الاصطناعي وسلطة التحكم فيها.

وتضمن الطرح سبعة مبادئ رئيسية لحماية الأنظمة، من أبرزها تنوع النماذج، والتوثيق، والاختبار المستمر، وفرض ضوابط مستقلة، وتوفير "فرامل طوارئ" تتيح إيقاف النماذج أثناء تنفيذ المهام، إلى جانب الإفصاح عن الحوادث والاختراقات وتبادل الدروس المستفادة على مستوى القطاع.

وأكد رئيس مايكروسوفت على أهمية فصل النموذج عن بيئة تشغيله وصلاحياته، والاعتماد على تدابير أمنية تضمن بناء أنظمة جديرة بالثقة وتتطلب أقل قدر ممكن من الثقة بالنموذج نفسه.