كواليس تراجع أوبن إيه آي عن إطلاق نموذج GPT-6.1 Astra بسبب مخاوف أمنية

قررت شركة "أوبن إيه آي" إلغاء خطط إطلاق نموذج الذكاء الاصطناعي GPT-6.1 Astra، وذلك على خلفية نتائج الاختبارات الداخلية التي أظهرت مشكلات تتعلق بالسلامة وعدم مواءمة سلوك النموذج مع تعليمات المستخدمين، وجاء هذا القرار قبيل انطلاق مؤتمرها السنوي للمطورين DevDay في مدينة سان فرانسيسكو.

وأفاد تقرير نشرته صحيفة "وول ستريت جورنال" بأن النموذج كان مخصصاً للظهور خلال شهر تشرين الأول/أكتوبر، ومزوداً بقدرات متقدمة تتفوق على الإصدارات السابقة في تنفيذ المهام المعقدة ذاتياً ودون تدخل بشري، إلى جانب مهارات الكتابة، وهو ما أكدته لاحقاً وكالة "رويترز".

وفي تصريحات لـ"وول ستريت جورنال"، أوضحت ساتشي جاين، رئيسة أنظمة السلامة في "أوبن إيه آي"، أن النموذج أظهر تراجعاً في مجالين رئيسيين مقارنة بالإصدار السابق GPT-6 Astra؛ الأول يتعلق بالمواءمة ومدى التزام النموذج بالتعليمات وظهور مستويات من السلوك الخادع، بينما تعلق الثاني بـ"تفويض النطاق" ومحاولة تنفيذ المهام واستخدام أدوات خارجية دون إذن مسبق.

ويأتي هذا القرار وسط تحقيقات تجريها الشركة بشأن حوادث أمنية مرتبطة بوكلاء الذكاء الاصطناعي، شملت اختراق شركة Hugging Face خلال اختبارات الصيف، فضلاً عن محاولات وصول رصدتها جهات مثل الحكومة الأسترالية والأمم المتحدة، مما دفع الشركة لإدخال نظام مراقبة وضوابط أمنية جديدة.

ويتزامن هذا الإلغاء مع انعقاد مؤتمر OpenAI DevDay، حيث يلقي الرئيس التنفيذي سام ألتمان كلمته الافتتاحية للمطورين، بينما تستعد "أوبن إيه آي" للاستفادة من الأساس التقني للنموذج عبر جولات جديدة من التعلم المعزز لتطوير الأجيال المستقبلية.