نماذج Kimi الصينية تحت المجهر: ثغرات أمنية تسمح بالوصول لمعلومات خطيرة

تخضع نماذج الذكاء الاصطناعي الصينية Kimi، المطورة من قبل شركة Moonshot AI، لاختبارات أمنية صارمة كشفت عن تجاوزات مقلقة. فقد تمكن باحثون من شركة Mindgard المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي من دفع نموذجين من نماذج Kimi، وهما K2.6 وK3 Swarm، إلى تجاوز قيود السلامة المفروضة عليهما. وسمحت هذه التجاوزات للنماذج بتقديم معلومات حول تصنيع أسلحة بيولوجية، وتنفيذ عمليات اغتيال، وحتى هجمات سيبرانية محتملة.

تُعرف هذه العملية باسم "كسر القيود" (Jailbreaking)، حيث يتم استخدام سلسلة من التعليمات المعقدة لاختبار مدى التزام أدوات الذكاء الاصطناعي بضوابط الحماية. وبمجرد نجاح هذه العملية، يمكن للنموذج مناقشة مواضيع حساسة وتقديم توصيات حولها بطرق مبتكرة، وفقًا لنتائج Mindgard. وعلى الرغم من أن الشركة لم تؤكد إمكانية التطبيق العملي للمعلومات الخطرة التي قدمها Kimi، إلا أنها شددت على أن ضوابط الحماية كان ينبغي أن تمنع النموذج من الدخول في مثل هذه النقاشات من الأساس.

لم تقتصر المخاطر على الأسلحة البيولوجية فحسب، بل أظهرت الاختبارات أن Kimi K2.6، بعد تجاوز قيوده، يمكن أن يسمح للمهاجمين بتشغيل تعليمات برمجية على موارده الحاسوبية والاتصال بالإنترنت، مما يجعله منصة محتملة لإطلاق هجمات سيبرانية. وقد أبلغت Mindgard شركة Moonshot بالثغرة في 27 يوليو، وتابعت التواصل قبل نشر تدوينة حول المشكلة في 12 سبتمبر. وبحسب Mindgard، لم تبدأ Moonshot في التواصل إلا مؤخرًا بعد استفسار من BBC.

من جانبها، أكدت Moonshot أن نموذجها أظهر عمومًا "معدل رفض مرتفعًا لهذا النوع من الطلبات" في تقييماتها الداخلية. ورحبت الشركة بملاحظات الجهات الخارجية كجزء أساسي لبناء ذكاء اصطناعي أفضل وأكثر أمانًا، وأفادت بأنها تناقش نتائج Mindgard معها.

تأتي هذه النتائج في ظل انقسام مستمر في صناعة الذكاء الاصطناعي حول ما إذا كانت النماذج المغلقة والمملوكة، مثل تلك التي تشغل "شات جي بي تي" و"كلود"، أم الأدوات مفتوحة المصدر هي الخيار الأفضل والأكثر أمانًا. ويُصنف Kimi كنموذج مفتوح الأوزان (Open-weight)، مما يثير مخاوف من احتمال وقوعه في أيدي جهات مسيئة، على الرغم من إمكانية استخدامه في الدفاع السيبراني. ويواجه التنظيم الدولي صعوبة في مواكبة سرعة تطور الذكاء الاصطناعي، مما يعزز الدعوات لزيادة التركيز على تحديد وملاحقة المسيئين لهذه التقنيات قضائيًا.