دستور مايكروسوفت للذكاء الاصطناعي: قواعد صارمة لضمان السيطرة البشرية

مع تصاعد المخاوف من قدرات الأنظمة المتقدّمة، كشفت شركة مايكروسوفت عن مسوّدة مدوّنة سلوك لأنظمة الذكاء الاصطناعي التي تطوّرها داخلياً، في خطوة تهدف إلى إبقاء الأنظمة القوية مستقبلاً تحت سيطرة الإنسان. وعملت الشركة على هذه الوثيقة طوال فترة تراوحت بين خمسة إلى ستة أشهر.

تنص المسوّدة على ألا يقاوم الذكاء الاصطناعي تصحيحه أو إيقافه، وأن يتواصل بطريقة يستطيع البشر فهمها، مع اعتبار أي انتهاك لقواعد السلوك فشلاً ذريعاً. وتهدف هذه القواعد للتعامل مع المخاوف من احتمال تجاوز أنظمة الذكاء الاصطناعي للحدود الخطرة أثناء إنجاز المهام.

وفي مقابلة مع وكالة رويترز، وصف الرئيس التنفيذي لـ مايكروسوفت للذكاء الاصطناعي، مصطفى سليمان، هذه الوثيقة بأنها بمثابة "دستور" لنماذج الشركة المستقبلية. ويأتي هذا الإعلان بعد أيام من دعوات مماثلة أطلقها الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، والرئيس التنفيذي لشركة أوبن إيه آي، سام ألتمان، لضبط وتيرة تطوير الذكاء الاصطناعي ضماناً لسلامة البشرية.

وأكد مصطفى سليمان أن الوثيقة صُممت بعد مشاورات مع خبراء، وستُستخدم لاحقاً في تدريب النماذج التي تطوّرها شركة مايكروسوفت، مشيراً إلى حادثة وقعت في تموز/يوليو عندما نفذ نحو 700 وكيل تابع لـ أوبن إيه آي عملية اختراق لمنصّة Hugging Face المفتوحة المصدر، ووصف ما جرى بأنه "طلقة تحذيرية" تستدعي التنسيق المستمر.