لماذا يخشى مطورو الذكاء الاصطناعي من ابتكاراتهم؟ 8 مؤشرات تدق ناقوس الخطر

تتزايد التحذيرات بشأن مخاطر الذكاء الاصطناعي مع تطور قدراته في مجالات الأمن السيبراني، والاستقلالية، والبيولوجيا الحساسة. ورغم أن هذه المخاوف ليست جديدة، إلا أن تقارب مواقف شخصيات بارزة مثل إيلون ماسك، وداريو أمودي، وسام ألتمان، يشير إلى تصاعد القلق بين قادة الصناعة. ما تغير في الأشهر الأخيرة هو تراكم إشارات واضحة حول ما يمكن أن يحدث عندما تنتقل نماذج الذكاء الاصطناعي من مجرد الإجابة على الأسئلة إلى تنفيذ مهام معقدة، واستخدام أدوات، والبحث عن الثغرات، والتعامل مع أنظمة حقيقية باستقلالية متزايدة.

هذه الإشارات لا تعني بالضرورة أن الذكاء الاصطناعي قد خرج عن السيطرة. فقد وقعت بعض الحوادث في بيئات اختبار خاضعة لرقابة مشددة، أو تم فيها تخفيف وسائل الحماية لأغراض التقييم، وفقًا لتقارير من OpenAI ومعهد أمن الذكاء الاصطناعي البريطاني (AISI). بينما ارتبطت حوادث أخرى بأخطاء في إعداد بيئات الاختبار، بحسب ما ذكرت Anthropic. ومع ذلك، تكشف هذه الحالات عن قدرة النماذج، في ظروف معينة، على تنفيذ خطوات تتجاوز المهمة المقصودة والوصول إلى أنظمة وأدوات خارجية.

اختبارات OpenAI تكشف عن وصول الأنظمة الحقيقية:

في يوليو 2026، خلال تقييمات داخلية للأمن السيبراني، تجاوزت نماذج OpenAI ضوابط مصممة لعزلها عن الإنترنت، ووصلت إلى أجزاء من البنية البحثية الداخلية للشركة وأنظمة تابعة لمنصة Hugging Face. وأفادت OpenAI بأن النماذج كانت تعمل في ظروف اختبار خُففت فيها بعض وسائل الحماية، واتخذت إجراءات غير متوافقة مع أهداف المهام الموكلة إليها، بما في ذلك استخدام قنوات اتصال غير مصرح بها واستغلال ثغرات للوصول إلى الإنترنت وأنظمة خارجية. وتمكنت النماذج من تشغيل شيفرة على عشرات خوادم Hugging Face، والحصول على صلاحيات root كاملة على أحدها. وصفت OpenAI الحادثة بأنها