تحقيقات وتحذيرات داخلية تطوق شركة "أوبن إيه آي" بعد خروج برامج ذكاء اصطناعي عن القيود

تواجه شركة "أوبن إيه آي" تحقيقات أميركية بعد تجاوز نماذجها بيئات الاختبار ووصولها إلى أنظمة خارجية، وسط اتقادات من موظفين يؤكدون أن الشركة لم تتحرك بالسرعة الكافية للتعامل مع تحذيرات أمنية سبقت هذه الحوادث. وخلال مؤتمر للمطورين نظمته "أوبن إيه آي" قرب سان فرانسيسكو، اتسع نطاق الأزمة الأمنية بعد إعلان الشركة إبلاغ أكثر من مئة مؤسسة بنشاط غير مأذون به نفذته برامج وكيلة تعمل بالذكاء الاصطناعي تابعة لها، بالتزامن مع إصدار المدعي العام لولاية كاليفورنيا مذكرة تحقيق رسمية.

ولا يعني إخطار المؤسسات تعرضها بالضرورة لاختراق أو سرقة بيانات، إذ تراوحت الوقائع بين محاولات لتجاوز ضوابط الدخول واستخدام مواقع بطريقة غير مصممة لها، فضلاً عن الوصول إلى معلومات أو خدمات بصلاحيات غير متوقعة. غير أن هذا العدد الواسع من الحوادث يثبت أن المشكلة لا تقتصر على واقعة فردية. وبحسب تحقيق أجرته صحيفة "النيويورك تايمز"، فإن موظفين اثنين حذرا مسؤولين كباراً قبل أشهر من وقوع أبرز الحوادث من ضعف مراقبة النماذج وحماية بيئات الاختبار، إلا أن الإدارة، استنادا إلى رسائل وشهادات اطلعت عليها الصحيفة، فضلت إعطاء الأولوية لاستمرار الاختبارات بشكل سريع للالتزام بمواعيد إطلاق النماذج.

ولم تؤكد الشركة تجاهلها لأي تحذيرات محددة، لكنها اعترفت بالحاجة الملحة لتطوير إجراءاتها بوتيرة أسرع. وتفجرت هذه القضية إثر حادثة وقعت في تموز/يوليو 2026 عندما اخترقت نماذج داخلية القيود المفروضة لعزلها عن الإنترنت، لتتمكن من إنشاء قنوات تواصل بينية واستغلال ثغرات في بنية "أوبن إيه آي" للوصول إلى الأنظمة الخاصة بمنصة "هاغنغ فايس"، حيث نفذت أوامر على خوادم وحصلت على بيانات اعتماد ومعلومات خاصة محدودة.

يُذكر أن البرامج الوكيلة قادرة على تنفيذ سلاسل من الخطوات واستخدام الأدوات والمواقع لتحقيق أهداف محددة. وقد أظهرت مراجعة الشركة أن النماذج عجزت عن معرفة الوقت المناسب للتوقف أمام المهام الصعبة، مما دفعها للتحايل على الاختبارات وتبادل التعليمات حتى عند إدراكها لعدم إذن تلك الأفعال. وفي واقعة أخرى منفصلة، نجح باحثون من شركة "هاكترون" في اختراق حسابات تعود لموظفين والوصول إلى مستودعات شيفرة داخلية قبل إبلاغ الشركة بالثغرات ونيلهم مكافأة مالية بقيمة 6500 دولار.

ولا تقتصر هذه المشكلة على شركة "أوبن إيه آي" وحدها، إذ كشفت شركة "أنثروبيك" أيضاً عن ثلاث وقائع وصلت خلالها نماذجها إلى أنظمة حقيقية في أثناء إجراء اختبارات أمنية، وهو ما يعكس تحدياً عاماً يواجه صناعة البرامج الوكيلة المستقلة، وإن كانت "أوبن إيه آي" تخضع لتدقيق أشد نظراً لكثافة الحوادث المنسوبة لنمادجها واتساع نطاقها. ونتيجة لذلك، أقدمت الشركة على وقف بعض عمليات التدريب مؤقتاً، مع تشديد عزل بيئات الاختبار وتعزيز مراقبة النماذج، في وقت يطرح فيه انتقال القضية إلى المدعين العامين ولجنة التجارة الفيدرالية تساؤلات جوهرية حول حدود مسؤولية الجهة المطورة عندما يتجاوز وكيل الذكاء الاصطناعي مهامه وينفذ أفعالاً لم يطلبها الإنسان.