أنثروبيك تحذر: نماذج الذكاء الاصطناعي قد تبدأ في التكاثر الذاتي قريباً

أجرت شركة أنثروبيك أبحاثاً حول قدرة نماذج الذكاء الاصطناعي على تحديد الأجهزة التي تعاني من ثغرات أمنية، ومن ثم نسخ نفسها إلى تلك الأجهزة ومواصلة الانتشار دون الحاجة لتدخل بشري. وتشير التجارب التي أجرتها الشركة إلى أن نماذج الذكاء الاصطناعي الصغيرة قد تصبح قادرة، في غضون أشهر قليلة، على نسخ نفسها ذاتياً على أجهزة إنترنت الأشياء التجارية، مثل الأفران الذكية وأجهزة التلفزيون التي تعمل بنظام أندرويد من علامات تجارية غير معروفة.

في سياق تجاربها، سعت أنثروبيك إلى معرفة ما إذا كان بإمكان نماذج الذكاء الاصطناعي تحديد الأجهزة التي بها ثغرات أمنية، ونسخ نفسها إليها، والاستمرار في الانتشار دون تدخل بشري. وقد توصلت الشركة إلى أن النماذج الصغيرة التي تحتوي على أقل من 30 مليار معامل يمكنها إكمال الخطوات المتعددة اللازمة لعملية النسخ الذاتي. ومع ذلك، لاحظت الشركة أن هذه النماذج واجهت صعوبة في إكمال التسلسل بأكمله من البداية إلى النهاية.

في اختباراتها المبسطة، حيث تم استبعاد بعض الإجراءات الأمنية، وجدت أنثروبيك أن نموذج جي.إل.إم-5.2 والنماذج الأقوى منه كانت قادرة على النسخ الذاتي بالكامل. وحذرت أنثروبيك من أن النماذج التي تنسخ نفسها بنفسها ستكون صعبة الإيقاف نظراً لغياب نقطة تحكم مركزية لتعطيلها. وعلى عكس البرمجيات الخبيثة التقليدية، فإن هذه النماذج قادرة على اكتشاف أجهزة غير مألوفة بنفسها واستهداف معالجات مراكز البيانات.

ركزت الشركة في بحثها على أجهزة إنترنت الأشياء مثل أجهزة التلفزيون التي تعمل بنظام أندرويد، والأجهزة المنزلية الذكية، وغيرها من الأجهزة المتصلة بالإنترنت، نظراً لأن هذه الأجهزة غالباً ما تكون غير محمية بشكل كافٍ. كما حذرت الشركة الرائدة في مجال الذكاء الاصطناعي من أنه إذا استمرت النماذج الصغيرة في التحسن بنفس الوتيرة غير المسبوقة، فإنها ستكون قادرة على نسخ نفسها بشكل مستقل بحلول نهاية هذا العام، وستتبعها بعد ذلك بوقت قصير نماذج نسخ صغيرة تعتمد على الأوزان.

أشارت أنثروبيك أيضاً إلى أن أنظمة الذكاء الاصطناعي المستقلة هذه من المرجح أن تنسخ نفسها ببطء، معتمدة على موارد حوسبة متاحة على نطاق واسع وتفتقر نسبياً إلى الأمان الكافي. وأضافت أنه ينبغي تعزيز الأنظمة لجعل انتشار وكلاء الذكاء الاصطناعي هذه أكثر صعوبة.