سام ألتمان يحذر الشركات: أولوية مواجهة مخاطر الذكاء الاصطناعي قبل تعزيز الإنتاجية

حث سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي" (OpenAI)، الشركات على إعطاء الأولوية لفهم التهديدات الأمنية التي يفرضها الذكاء الاصطناعي على المدى القصير، حتى قبل استخدامه لتعزيز الإنتاجية. وأعرب ألتمان عن صدمته من حجم الثغرات البرمجية التي تكشفها أنظمة الذكاء الاصطناعي، مشيراً إلى أن هذا الأمر قد يكون "مزعجاً بعض الشيء" لأنه قد يوحي بأن من خلقوا المشكلة هم أنفسهم من يطالبون بالحلول.

خلال حوار مع كلاي ماغويرك، الرئيس التنفيذي لشركة "أوراكل" (Oracle)، ضمن فعاليات مؤتمر "أوراكل للذكاء الاصطناعي" (Oracle AI World)، قال ألتمان: "لو كان بإمكاني تقديم نصيحة واحدة فقط للشركات في الوقت الراهن فيما يتعلق بالذكاء الاصطناعي، حتى قبل السعي لتحقيق إنتاجية فائقة باستخدام أداة كودكس (Codex) الخاصة بنا، فستكون هي العمل بجدية على فهم مشهد التهديدات الأمنية المرتبطة بالذكاء الاصطناعي، والعمل على الحد منها".

خالف ماغويرك ألتمان في الرأي، مؤكداً أن الذكاء الاصطناعي لا يخلق المشكلات أو الثغرات البرمجية، بل يساعد في اكتشاف المشكلات الأمنية المتراكمة على مدار الخمسين عاماً الماضية. واتفق الاثنان على أن السبيل الوحيد للمضي قدماً هو رصد جميع هذه الثغرات ومعالجتها، وهو ما يتطلب أساليب جديدة نظراً لصعوبة إصلاح كل ثغرة على حدة عبر سلسلة التوريد بأكملها. وأضاف ألتمان أن الشركات ستحتاج إلى أنواع جديدة من الخدمات التي تراقب حركة البيانات باستمرار وتمنع استغلال مثل هذه العيوب.

تأتي تصريحات ألتمان بعد أيام من قيام تحالف بقيادة "أوبن إيه آي" (OpenAI) باستخدام وكلاء ذكاء اصطناعي للكشف عن ثغرات خطيرة في لغة "بي إتش بي" (PHP)، وهي لغة برمجة شائعة الاستخدام في بناء المواقع الإلكترونية. وقد حذر القسم السيبراني في مكتب التحقيقات الفيديرالي الأميركي (FBI) من أن هذه الثغرات قد تتيح للمهاجمين تشغيل أكواد برمجية عن بُعد. وأفاد ماثيو برينس، الرئيس التنفيذي لشركة "كلاود فلير" (Cloudflare)، برصد "ملايين" المحاولات لاستغلال هذه الثغرات في غضون ساعات قليلة من الإعلان عنها.

وصفت "أوبن إيه آي" (OpenAI) هذه الثغرات بأنها "واحدة من أكثر المشكلات الأمنية تأثيرًا في الآونة الأخيرة"، مشيرة إلى أن أنظمة الذكاء الاصطناعي لديها اكتشفتها قبل أي مهاجم. كما واجهت "أوبن إيه آي" حوادث أمنية تتعلق بنماذجها الخاصة، حيث خرجت وكلاء ذكاء اصطناعي من بيئة الاختبار المعزولة وتسللت إلى أنظمة منصة الذكاء الاصطناعي "Hugging Face" في يوليو/تموز. وفي سبتمبر/أيلول، أوقفت "أوبن إيه آي" موقتًا عمليات التدريب والتقييم والاستخدام لأكثر نماذجها تطورًا بعد أن تمكن أحد وكلاء الذكاء الاصطناعي من الوصول إلى خدمة دردشة عامة عبر ثغرة.

أشار ألتمان إلى أن وتيرة التغير في مجال الذكاء الاصطناعي كانت من أكبر المفاجآت له هذا العام، مقارناً بين قدرات نماذج "أوبن إيه آي" قبل أربع سنوات والآن، حيث أصبحت قادرة على حل أصعب المسائل الرياضية. كما لفت إلى أن الذكاء الاصطناعي يتيح لأشخاص لم يعتبروا أنفسهم مبرمجين بناء تطبيقاتهم الخاصة، واصفاً التجربة بأنها أشبه بإدارة مصنع داخل الحاسوب لأتمتة المهام.