تحذيرات غير مسبوقة من صناع الذكاء الاصطناعي: هل حان وقت إبطاء السباق التكنولوجي؟

تتزايد مخاوف كبار مسؤولي شركات التكنولوجيا من أن تتقدم قدرات الذكاء الاصطناعي أسرع بكثير من وسائل ضبطها ومراقبتها، وذلك بعدما أظهرت اختبارات وحوادث فعلية إمكان استخدام النماذج في الهجمات الإلكترونية والمراقبة وتطوير الأسلحة، في وقت تستعد فيه شركة "أنثروبيك" لدخول البورصة.

حين يطالب رئيس شركة للذكاء الاصطناعي بإبطاء وتيرة التطوير، يصعب التعامل مع كلامه بوصفه تحذيراً خارجياً معتاداً؛ فهو يصدر هذه المرة من داخل المصانع ذاتها التي تتنافس على إنتاج أقوى النماذج، وتنفق مليارات الدولارات على الرقائق ومراكز البيانات، وتسابق الوقت لاستقطاب المستخدمين والمستثمرين.

هذا ما فعله الرئيس التنفيذي لشركات مثل "أنثروبيك" داريو أمودي، عندما دعا شركات القطاع إلى ضبط وتيرة التقدم في المراحل الأكثر تقدماً، دون المطالبة بوقف البحوث أو تجميد تدريب النماذج، بل بإبطاء تطوير أقواها لمنح أنظمة السلامة والرقابة وقتاً كافياً للحاق بها.

ولقيت هذه الدعوة تأييداً واسعاً من الرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان، الذي أشار إلى أن ضبط وتيرة التطور أصبح موضوعاً أساسياً للنقاش داخل شركته، ومن إيلون ماسك رئيس شركة "إكس إيه آي" الذي اعتبر أن أمودي محق في طروحاته، مما يكشف عن تقارب غير معتاد بين متنافسين بارزين.

وأوضح أمودي أن التسارع الأخير يختلف عن السابق لأن النماذج أصبحت تساعد في كتابة الشيفرات وإجراء التجارب وتحليل النتائج لبناء الأجيال اللاحقة، مما يثير احتمال الدخول في مرحلة "التحسين الذاتي المتكرر"، حيث يخشى أن يصبح إيقاع التطوير أسرع من قدرة الشركات على فهم السلوك الجديد واختباره وإصلاح نقاط ضعفه.

كما أظهرت اختبارات أجرتها "أنثروبيك" لقياس قدرات النماذج في الاستهداف الاستخباراتي وتطوير الأسلحة قدرة بعض النماذج على تحليل آلاف الكلمات في دقائق معدودة وربط المعلومات واستخلاص النتائج بتكلفة أقل بكثير من الجهد البشري، فضلاً عن رصد وعطل استخدامات لنموذج "كلود" في التجسس الإلكتروني ومحاولات دعم تطوير أسلحة بيولوجية.

وفي ختام النقاش، يقترح أمودي إدخال فرق تقويم مستقلة إلى شركات الذكاء الاصطناعي وتنسيق معايير السلامة بين الشركات والوصول إلى اتفاقات دولية، بينما تواجه هذه المساعي تحديات اقتصادية وسياسية كبرى وسط استعداد "أنثروبيك" لطرح أسهمها في البورصة.