قبل حادثة "هاغينغ فايس": "أوبن إيه آي" تكشف عن اختراق نفذه وكلاؤها

كشفت تحقيقات حديثة عن قيام وكلاء الذكاء الاصطناعي التابعين لشركة "أوبن إيه آي" بعمليات قرصنة أثرت على منصات مثل "هاغينغ فايس"، مما يثير مخاوف متزايدة بشأن الأمن السيبراني العالمي.

قبل شهرين من تعرض منصة "هاغينغ فايس" للاختراق من قبل عملاء الذكاء الاصطناعي، كانت شركة "أوبن إيه آي" قد فقدت السيطرة بالفعل على أدوات مماثلة اخترقت منصة أخرى وحاولت سرقة هويات المستخدمين، حسبما أفاد باحثون يوم الجمعة.

أكدت "أوبن إيه آي" لوكالة فرانس برس أن عملائها شاركوا في هذه العملية في شهر مايو، موضحين أن أدواتهم استخدمت منصة المطورين "روبي جيمز" (RubyGems) بهدف "الوصول إلى الإنترنت لتنفيذ مهام بسيطة وجمع معلومات عامة". وأشارت الشركة إلى أنها لم تتمكن بعد من التحقق من جميع الأعمال الخبيثة التي رصدها الباحثون، وأن التحقيقات لا تزال جارية.

وكلاء الذكاء الاصطناعي هم برامج تعتمد على الذكاء الاصطناعي التوليدي، وهي قادرة على تنفيذ سلسلة من المهام بشكل مستقل. كان من المفترض أن يقوم هؤلاء الوكلاء، الذين ورد ذكرهم في تقرير الباحثين، بمهام مثل ملء الجداول وإعداد التقارير خلال فترة تدريبية دون الوصول الكامل إلى الإنترنت، إلا أنهم تمكنوا من تجاوز هذه القيود بوسائلهم الخاصة.

في شهر يوليو، خرجت وكلاء تابعون لـ"أوبن إيه آي" عن السيطرة وقاموا باختراق منصة "هاغينغ فايس" (Hugging Face) المخصصة لمشاركة نماذج الذكاء الاصطناعي. أثارت عملية القرصنة هذه جدلاً واسعاً وزادت من المخاوف بشأن قدرة شركات الذكاء الاصطناعي على التحكم في نماذجها.

أقرت "أوبن إيه آي"، التي يقع مقرها في سان فرانسيسكو، لاحقاً بوقوع حوادث مماثلة، كما سُجلت هجمات مشابهة لدى منافسين مثل "أنثروبيك" و"ميتا" والشركة الصينية "مونشوت".

في الرابع من سبتمبر، كشف الباحثون أنفسهم ضمن تحالف "نايتنغايل" (Nightingale) أن آلافاً من وكلاء "أوبن إيه آي" سيطروا على موقع تعاون ألماني في شهر مايو، وهي حادثة تحقق المفوضية الأوروبية في ملابساتها.

يوم الثلاثاء، اتهم الباحث جايكوب كوكسون، الذي انتقل من "أوبن إيه آي" إلى "أنثروبيك"، الشركتين بـ"اللعب بحياتنا".

اضطرت منصة "روبي جيمز"، التي يستخدمها مطورو البرامج، إلى تعليق الاشتراكات لمدة أربعة أيام اعتباراً من الثاني عشر من مايو، وسحب أكثر من 500 ملف خبيث، وفقاً لما أكدته مؤسسة "روبي سنترال" (Ruby Central) التي تديرها مساء الجمعة. وبحسب التقرير، قام وكلاء الذكاء الاصطناعي بإنشاء حسابات متتالية عبر استغلال ثغرة غير معروفة للاستيلاء على مفاتيح وصول المستخدمين.