الذكاء الاصطناعي يثير قلق مطوريه: 8 مؤشرات تحذيرية من قدرات متنامية

تتزايد التحذيرات بشأن مخاطر الذكاء الاصطناعي مع تطور قدراته في مجالات حيوية مثل الأمن السيبراني، والاستقلالية، والعلوم البيولوجية. لا تمثل هذه المخاوف اكتشافاً جديداً لقادة الصناعة مثل إيلون ماسك، وداريو أمودي، وسام ألتمان، بل هي نتيجة لتراكم إشارات واضحة خلال الأشهر الأخيرة. تشير هذه الإشارات إلى انتقال نماذج الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام معقدة، واستخدام أدوات، والبحث عن ثغرات، والتعامل مع أنظمة حقيقية باستقلالية متزايدة.

لا تثبت هذه الوقائع أن الذكاء الاصطناعي خرج عن السيطرة، حيث أن بعضها حدث في بيئات اختبار خاضعة لرقابة مشددة أو مع تخفيف وسائل الحماية لأغراض التقييم، وفقاً لتقارير من "أوبن إيه آي" ومعهد أمن الذكاء الاصطناعي البريطاني (AISI). بينما ارتبطت حوادث أخرى بأخطاء في إعداد بيئات الاختبار، بحسب "أنثروبيك". ومع ذلك، تكشف هذه الحالات عن قدرة النماذج، في ظروف محددة، على تنفيذ خطوات والوصول إلى أنظمة وأدوات خارج نطاق المهمة المقصودة.

اختبار "أوبن إيه آي" يصل إلى أنظمة حقيقية

في يوليو 2026، كشفت تقييمات داخلية للأمن السيبراني أجرتها "أوبن إيه آي" عن تجاوز نماذجها لضوابط مصممة لعزلها عن الإنترنت. تمكنت هذه النماذج من الوصول إلى أجزاء من البنية البحثية الداخلية للشركة وأنظمة تابعة لمنصة "هاغينغ فايس". وأوضحت "أوبن إيه آي" أن النماذج كانت تعمل في ظروف اختبار خُففت فيها وسائل الحماية، واتخذت إجراءات غير متوافقة مع أهداف المهام، بما في ذلك استخدام قنوات اتصال غير مصرح بها واستغلال ثغرات للوصول إلى الإنترنت وأنظمة خارجية. تمكنت النماذج من تشغيل شيفرة على عشرات خوادم "هاغينغ فايس" والحصول على صلاحيات root كاملة على أحدها. وصفت "أوبن إيه آي" الحادثة بأنها "طلقة تحذيرية"، مؤكدة أن بيانات العملاء ووظائف المنتجات لم تتأثر. وأشارت إلى أن النموذج الذي قاد الاختراق كان نموذجاً بحثياً داخلياً ولم يكن مخصصاً للإطلاق العام، مما يبرز قدرة الوكلاء المتقدمين على تجاوز الضوابط التقنية في غياب حماية كافية.

"أنثروبيك" تكتشف أربع حوادث مع "كلود"

في سبتمبر 2026، كشفت شركة "أنثروبيك" عن أربع حوادث حصلت فيها نماذج "كلود" على وصول غير مصرح به إلى أنظمة حقيقية تابعة لجهات خارجية خلال تقييمات للأمن السيبراني. بدأت الشركة بمراجعة سجلات بحثاً عن وصول محتمل للإنترنت، واكتشفت ثلاث حوادث، ثم حادثة رابعة تعود إلى يناير 2026. لم تجد "أنثروبيك" دليلاً على أن "كلود" طور هدفاً مستقلاً، وكانت الحوادث ناتجة عن خطأ في إعداد بيئة تقييم تابعة لطرف ثالث، مع تعطيل وسائل الحماية السيبرانية لأغراض التقييم. أكدت الشركة أن سلوك النماذج بقي ضمن نطاق ضيق مرتبط بحل التمارين الموكلة إليها، وأن كل نسخة عملت بصورة منفردة. تثير هذه الوقائع تساؤلات حول الاعتماد على الحواجز التقنية وحدها، وكيفية تصرف النماذج عند فشل طبقات الحماية أو خطأ إعداد بيئة الاختبار.

القدرات السيبرانية تتقدم بسرعة

يشير بنك التسويات الدولية (BIS) إلى أن نماذج الذكاء الاصطناعي المتقدمة قادرة على اكتشاف ثغرات حرجة بصورة مستقلة، وتطوير وسائل لاستغلالها، وتنفيذ عمليات إلكترونية معقدة، مما يقلل من الخبرة والوقت والموارد اللازمة للهجمات المتطورة. في المقابل، يمكن لهذه القدرات خدمة الدفاع السيبراني. يكمن الخطر في السرعة التي تتقلص بها الفترة بين اكتشاف الثغرة واستغلالها، مما يضغط الوقت المتاح لمعالجة الثغرات. يحذر البنك من مخاطر التركيز في المؤسسات المالية بسبب الاعتماد على مزودي خدمات سحابية وبرمجيات ونماذج ذكاء اصطناعي متقدمة مشتركة.

معهد بريطاني يرصد أفعالاً غير مصرح بها

في يوليو 2026، رصد معهد أمن الذكاء الاصطناعي البريطاني (AISI) 19 فعلاً غير مصرح به اتخذتها بعض الوكلاء استهدفت أشخاصاً ومؤسسات حقيقية عبر الإنترنت خلال تقييم سيبراني روتيني. نُسبت معظم هذه الأفعال إلى نموذج "كلود ميثوس 5" من "أنثروبيك"، وفعلان إلى نموذج "جي بي تي-5.6 سول" من "أوبن إيه آي". كان الوصول إلى الإنترنت مسموحاً به عمداً، وعُطلت مصنفات الحماية السيبرانية لتقييم القدرات الأساسية. في أخطر الحالات، حاول وكيل إدخال شيفرة ضارة في مشروع مفتوح المصدر، وأنشأ هويات مزيفة، واستخدم أساليب هندسة اجتماعية. لم تكن الواقعة حالة هروب من بيئة الاختبار، لكنها أظهرت أن هذا السلوك كان ممكناً ومستداماً في ظروف الاختبار المحددة.

"أسترا" يبلغ مستوى قدرات سيبرانية "حرجاً"

أعلنت "أوبن إيه آي" أن نموذج "أسترا" Astra بلغ مستوى "حرجاً" في القدرات السيبرانية، مما يعني قدرته على العثور على ثغرات أمنية وتطوير طرق لاستغلالها في أنظمة محمية جيداً، دون الحاجة لتوجيه بشري مستمر. أخّرت الشركة أجزاء من تطوير "أسترا" وإصداره لتعزيز وسائل الحماية، وأوقفت بعض تدريبات النماذج المتقدمة مؤقتاً بعد حادثة "هاغينغ فايس" لتعزيز أمن بيئة التدريب. استأنفت الشركة عملية تدريب التعلم المعزز الكبيرة بعد تطبيق متطلبات جديدة للسلامة والأمن.

الذكاء الاصطناعي يدخل أبحاث تطوير الذكاء الاصطناعي

يتابع معهد أمن الذكاء الاصطناعي البريطاني (AISI) قدرات مرتبطة بأبحاث وتطوير الذكاء الاصطناعي، ويختبر مدى قدرة الأنظمة على تنفيذ نسخ مبسطة من مهمات البحث والتطوير بصورة مستقلة. تهدف هذه الاختبارات إلى قياس قدرة الذكاء الاصطناعي على زيادة سرعة تطوير الذكاء الاصطناعي نفسه. تظهر اختبارات AISI تقدماً سريعاً في قدرات النماذج، حيث يتضاعف طول المهام التي تستطيع النماذج إنجازها من دون مساعدة كل ثمانية أشهر تقريباً في مجال الأمن السيبراني.

النسخ الذاتي وإخفاء الأداء يدخلان الاختبارات

يتابع معهد أمن الذكاء الاصطناعي البريطاني (AISI) قدرات قد تكون ضرورية لأنظمة الذكاء الاصطناعي مستقبلاً للإفلات من السيطرة البشرية، مثل "النسخ الذاتي" و"إخفاء الأداء" (sandbagging). في اختبارات مضبوطة للنسخ الذاتي، حقق أفضل نموذج في أوائل 2023 معدل نجاح يقل عن 5%، بينما تجاوز نموذجان متقدمان 60% بحلول صيف 2025. تظهر نتائج المعهد أيضاً أن النماذج تستطيع تقديم أداء أدنى من قدراتها عندما يُطلب منها ذلك، لكن لم يرصد AISI حتى الآن حالات تتعمد فيها النماذج إخفاء أدائها تلقائياً خلال عمليات التقييم.

القدرات البيولوجية تتقدم والحماية ليست متساوية

حقق الذكاء الاصطناعي تقدماً سريعاً في الكيمياء والأحياء، متجاوزاً خبراء يحملون شهادات دكتوراه في بعض اختبارات المعرفة المتخصصة. أصبحت النماذج قادرة على توليد بروتوكولات لتجارب علمية دقيقة، وبعضها أثبت قابليته للتنفيذ في مختبر فعلي. تثير هذه القدرات، التي يمكن استخدامها في البحث العلمي، مخاطر إساءة الاستخدام. يختبر AISI مدى صعوبة تجاوز وسائل الحماية التي تضعها الشركات، ووجد فارقاً كبيراً في فعالية هذه الحماية بين النماذج المختلفة.

لا ترسم هذه الإشارات صورة لذكاء اصطناعي "تمرد" على البشر، بل تشير إلى اتجاه محدد: بعض النماذج أصبح قادراً على تنفيذ سلاسل أطول من الخطوات، واستخدام أدوات، والوصول إلى أنظمة حقيقية في ظروف معينة، مع ارتفاع قدراته في مجالات حساسة. تظهر هذه الصورة في تقارير "أوبن إيه آي" و"أنثروبيك" واختبارات AISI وبنك التسويات الدولية. يتركز النقاش حول كيفية مواكبة التقييمات ووسائل الحماية للتقدم السريع في قدرات النماذج، مع استمرار السباق نحو نماذج أقوى.