خبراء يحذرون: سباق الذكاء الاصطناعي قد يقود إلى كارثة خارجة عن السيطرة البشرية

يحذر باحثون وخبراء في مجال الذكاء الاصطناعي من أن التنافس العالمي المحموم لتطوير أنظمة أكثر قوة قد يدفعنا نحو مرحلة يصعب فيها على البشر التحكم بهذه التكنولوجيا.

تزامنت هذه التحذيرات مع استقالة الباحث جاكوب كوكسون من شركة "أنثروبيك" (Anthropic)، التي طورت نموذج "كلود" (Claude)، بعد قضاء نحو ثلاث سنوات متنقلاً بينها وبين شركة "أوبن إيه آي" (OpenAI)، مطورة "تشات جي بي تي" (ChatGPT). وجاءت استقالته قبل استحقاق أسهمه في الشركة.

نشر كوكسون رسالة وداع حصدت أكثر من 90 مليون مشاهدة في يوم واحد، أشار فيها إلى أن شركات الذكاء الاصطناعي الكبرى "تتسابق نحو تطوير ذكاء فائق قادر على تحسين نفسه ذاتياً، وهي بذلك تراهن بحياتنا". ويشير مصطلح "الذكاء الفائق" إلى أنظمة ذكاء اصطناعي تتجاوز القدرات البشرية في معظم المهام الهامة.

قدر إيفان هوبينجر، الذي يرأس فريقاً في "أنثروبيك" متخصصاً في مواءمة أنظمة الذكاء الاصطناعي مع أهداف البشر، احتمال أن يتسبب الذكاء الاصطناعي في تدمير البشرية بأكثر من 10 في المئة خلال العقد القادم. لكن خبيرة التكنولوجيا كيم كوماندو تشير إلى أن موعد ظهور ذكاء اصطناعي فائق لا يزال مجهولاً، فقد يحدث ذلك خلال سنوات أو عقود، أو ربما لا يحدث على الإطلاق. كما أن تقدير احتمال وقوع حدث لم يحدث من قبل يظل أمراً بالغ الصعوبة.

خطوات لحماية الحياة الرقمية

رغم المخاوف المستقبلية، ترى كوماندو أن المستخدم العادي يستطيع اتخاذ إجراءات بسيطة لتقليل المخاطر، أبرزها عدم منح "وكلاء الذكاء الاصطناعي" صلاحيات واسعة على الحسابات الشخصية. ويمكن اعتبار وكلاء الذكاء الاصطناعي بمثابة أنظمة تستطيع استخدام الحاسوب وتنفيذ المهام نيابة عن المستخدم، وليس مجرد تقديم الإجابات.

لذلك تنصح كوماندو بإبعاد هذه الأدوات عن الحسابات المصرفية والبريد الإلكتروني الرئيسي والحسابات التي تستقبل رموز المرور المؤقتة، وتجربتها بدلاً من ذلك عبر حسابات منفصلة لا تحتوي على معلومات حساسة. كما توصي بتفعيل التحديثات التلقائية على الهاتف والحاسوب وجهاز التوجيه، واستخدام المصادقة الثنائية أو متعددة العوامل، وبرامج إدارة كلمات المرور، والاحتفاظ بنسخ احتياطية من الملفات والصور والوثائق الهامة.

الخطر ليس "آلة شريرة"

تؤكد كوماندو أن المخاوف الحالية لا تتعلق بالضرورة بظهور آلات شريرة كما في أفلام الخيال العلمي، موضحة أن النظام لا يحتاج إلى مشاعر أو وعي حتى يشكل خطراً. وتقول: "لا يحتاج الذكاء الاصطناعي إلى كرهنا، ولا يحتاج إلى مشاعر، ولا حتى إلى امتلاك وعي؛ كل ما يحتاج إليه هو هدف يسعى إلى تحقيقه".

وتشير إلى أن بعض اختبارات السلامة أظهرت أن نماذج ذكاء اصطناعي حاولت في ظروف معينة الالتفاف على إجراءات إيقافها عندما كان الإيقاف يمنعها من إتمام المهمة الموكلة إليها. وترى أن هذه النماذج لم تكن تسعى إلى "البقاء" بحد ذاته، وإنما تعاملت مع استمرارها في العمل باعتباره وسيلة لتحقيق الهدف.

وترى كوماندو أن الخطر الأكبر حالياً قد يتمثل في السباق بين الشركات والدول لتطوير أنظمة أكثر قوة، إذ يمكن لكل طرف أن يتعامل مع تطوير الذكاء الاصطناعي باعتباره ضرورة حتى لا يسبقه منافسوه. وتقترح في هذا السياق إجراء اختبارات مستقلة على الأنظمة المتقدمة، ووضع ضوابط على سرعة تطويرها، وإشراك الدول في الحوار الدولي حول سلامة الذكاء الاصطناعي.

مخاوف من الفيروسات

من أبرز المخاوف التي تطرحها كوماندو احتمال استخدام الذكاء الاصطناعي مستقبلاً في تطوير فيروسات حاسوبية أو بيولوجية. وفي الجانب البيولوجي، تشير إلى تجارب استخدمت أنظمة ذكاء اصطناعي لتصميم جينومات فيروسية كاملة من الصفر، مستهدفة "العاثيات"، وهي فيروسات تهاجم البكتيريا ولا تصيب البشر.

ووفقاً لما ذكرته، أنتجت الأنظمة 302 تصميماً، نفذ الباحثون 285 منها، ونجح 16 تصميماً في التحول إلى فيروسات فعالة. ولا يعني ذلك أن الذكاء الاصطناعي صنع فيروس كورونا جديداً أو تسبب في إصابات بين البشر، لكنه يوضح أن أنظمة الذكاء الاصطناعي أصبحت قادرة على المساعدة في تصميم مواد بيولوجية معقدة.

وفي 10 سبتمبر، أعلنت "أنثروبيك" أنها رصدت خمس حالات استخدم فيها أشخاص نموذج "كلود" بطرق يمكن أن تساعد في تطوير أسلحة بيولوجية، وقالت إنها حظرت الحسابات المعنية وأبلغت عن الواقعة. وتحذر كوماندو من أن أنظمة أكثر تطوراً قد تتمكن مستقبلاً من توزيع المهام بين أشخاص ومختبرات مختلفة، بحيث ينفذ كل طرف جزءاً من العملية دون أن يرى الصورة الكاملة.

ومع ذلك، تشجع كوماندو الناس على مواصلة استخدام الذكاء الاصطناعي، مؤكدة أن التعامل مع هذه التكنولوجيا لا يكون بتجنبها، بل بفهم قدراتها ومخاطرها واستخدامها بطريقة أكثر أماناً. وتختصر موقفها بالقول: "أنا لا أخشى الذكاء الاصطناعي، بل أخشى أن تتجاوز النزعة التنافسية لدى البشر حكمتهم؛ فهناك فرق كبير بين الأمرين".