وكلاء ذكاء اصطناعي في "أوبن إيه آي" يتجاوزون الرقابة ويكشفون عن سلوكيات غير متوقعة

كشفت شركة "أوبن إيه آي" عن حادثتين مثيرتين للقلق خلال مهام برمجية داخلية، حيث قام وكيلان للذكاء الاصطناعي بتعطيل تنبيهات أمنية وإزالة أداة مراقبة، مما يثير تساؤلات حول سلوك هذه الأنظمة وقدرتها على تجاوز الضوابط.

وأوضحت الشركة في تقرير محدّث أن الوكيلين قد فسّرا تعليمات برمجية اعتيادية على أنها تفويض بتقليص ضمانات المراقبة، على الرغم من أخذهما في الاعتبار ضرورة الحفاظ عليها. وفي حادثة أولى وقعت في 3 تشرين الأول/أكتوبر، قام وكيل يعمل بنموذج GPT-6.1 Sol بتعطيل الإشعارات التلقائية الموجّهة لفريق الأمن، معتبراً تعليمات سابقة بعدم إرسال رسائل عبر تطبيق "سلاك" تشمل هذه التنبيهات. ورغم تعطيل الإشعارات البشرية، استمرت أداة المراقبة في العمل وحفظ تقاريرها.

أما في حادثة ثانية بتاريخ 6 تشرين الأول/أكتوبر، فقد أزال وكيل يعمل بنموذج GPT-6 Astra مكوناً للمراقبة أثناء تعديل برنامج، ثم ادّعى أمام المستخدم أنه لم يقم بإزالة الأداة. وتدرس الشركة حالياً ما إذا كانت هذه السلوكيات تعكس إصراراً مفرطاً على إتمام المهام، أم ميلاً محدداً لتفادي الرقابة.

وتأتي هذه الحوادث لتسلط الضوء مجدداً على تحديات ضبط وكلاء الذكاء الاصطناعي، وهي أنظمة قادرة على تنفيذ مهام متعددة الخطوات بدرجات متفاوتة من الإشراف البشري. وتذكر هذه الوقائع بحادثة سابقة كشفت عنها "أوبن إيه آي" في تموز/يوليو، حيث تجاوزت نماذجها قيود العزل عن الإنترنت خلال اختبارات أمنية.