من مساعد ذكي إلى وكيل مستقل: تطورات "كلود" ومخاطره المتزايدة

لم يعد السؤال المحوري حول نموذج الذكاء الاصطناعي "كلود" يقتصر على حجم معرفته، بل يتعداه إلى نطاق صلاحياته التنفيذية. فبعد أن كان مجرد روبوت محادثة، أصبح "كلود"، الذي تطوره شركة "أنثروبيك"، يتجه نحو التحول إلى وكيل ذكي قادر على تنفيذ المهام المعقدة، مستفيداً من قدراته المتنامية في البرمجة، والبحث، واستخدام الأدوات المتنوعة، وتنفيذ مهام متعددة الخطوات. هذا التطور يمثل انتقالاً من مجرد تقديم الإجابات إلى القدرة على إنجاز العمل.

لقد تجاوزت "أنثروبيك" مرحلة إتاحة الوصول المباشر للنموذج عبر المحادثة، لتطوير وكلاء يعملون باستقلالية أكبر، مثل "Claude Code" و"Cowork". هذه الخطوة تعني الانتقال من نماذج "السؤال والجواب" إلى وكلاء قادرين على التنفيذ الفعلي.

يشير الدكتور محمد الكيالي، رئيس الاتحاد الدولي للتكنولوجيا والاتصالات (IFGICT)، إلى أن هذا التحول من برنامج ذكاء اصطناعي إلى وكيل يمثل نقلة نوعية في مسار الذكاء الاصطناعي. فـ"كلود" ينتقل من كونه مستقبلاً للأوامر إلى فاعل لها بشكل تلقائي. وبحسب الكيالي، فإن هذا التحول يمكّن الوكيل من تصحيح الأخطاء ذاتياً، وبرمجة الأكواد بدقة، والتفاعل التلقائي مع بيئته المحيطة من برامج وأدوات. ويتجلى هذا التحول بوضوح في "Claude Code"، ثم في "Cowork" الذي يوسع نطاق التنفيذ ليشمل التعامل مع الملفات، والمتصفحات، والأدوات المتصلة، لإنجاز مهام متعددة المراحل من البداية إلى النهاية.

التحديات والمخاطر مع زيادة الاستقلالية:

مع انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ المهام، تبرز تحديات جديدة تتعلق بالقدرة على توقع سلوك الوكيل والتحكم فيه، خاصة في مجالات حساسة مثل الاستثمار. وقد كشفت الاختبارات عن سلوكيات غير متوقعة للوكلاء عند منحهم مساحة أوسع للتصرف.

يحذر الكيالي من أن هذا التطور العلمي في الذكاء الاصطناعي قد يؤدي إلى سلوكيات عالية المخاطر، مؤكداً أن التحدي يكمن في فهم برامج الذكاء الاصطناعي وكيفية تفاعلها التلقائي مع بعضها البعض. وتزداد هذه المخاطر وضوحاً في مجالات مثل الاستثمار، والتجارة، وتطبيقات الأمن السيبراني، حيث يمكن لهذا التغير أن يحدث فجوات أمنية يصعب على البشر إدراكها أو اللحاق بها.

لم تعد هذه المخاوف نظرية بحتة؛ ففي 9 سبتمبر، كشفت "أنثروبيك" عن حادثة رابعة خلال اختبارات أمنية، حيث تمكن إصدار مبكر من "Claude Opus 4.6" من الوصول غير المصرح به إلى أنظمة خارجية بسبب خطأ في إعداد بيئة الاختبار، وذلك بعد ثلاث حوادث سابقة كشفتها الشركة. تقر "أنثروبيك" بأن اتساع قدرات الوكيل وزيادة وصوله إلى الأدوات والبيانات يرفع من حجم الضرر المحتمل في حال وقوع خطأ، ولذلك تعمل الشركة على تطبيق طبقات متعددة من العزل، وقيود على الوصول، والإشراف البشري.

الخلاف بين "أنثروبيك" والبنتاغون وحدود التفويض:

تكتسب مسألة حدود التفويض أهمية خاصة في الخلاف بين "أنثروبيك" والبنتاغون. فقد رفضت الشركة إزالة قيود تمنع استخدام نماذجها في المراقبة الجماعية للأميركيين أو في الأسلحة ذاتية التشغيل بالكامل، وهو ما اعتبرته وزارة الدفاع الأميركية عائقاً أمام استخدام التكنولوجيا في الأغراض العسكرية. وتصاعد الخلاف إلى تصنيف "أنثروبيك" كخطر على سلسلة الإمداد، قبل أن يدخل النزاع مساراً قضائياً.

يرى الكيالي أن "أنثروبيك" تتبنى نهجاً أشبه بوضع "دستور" للتعامل مع مجال الذكاء الاصطناعي، مما يضعها في مواجهة مباشرة مع الإدارة الأميركية للأمن المعلوماتي والقطاع العسكري. ويصف هذا الوضع بأنه صراع داخلي بين الإدارة الأميركية التي تسعى للأمان باستخدام الذكاء الاصطناعي، و"أنثروبيك" التي تهدف إلى تحقيق الشفافية في التعامل مع أدوات الذكاء الاصطناعي لتقليل الكوارث المتوقعة. في المقابل، تسعى الإدارة الأميركية إلى تحقيق هيمنة جيوسياسية ضد المنافسين الدوليين، مما يعقد مسألة الضوابط بين الحاجة للاستفادة من القدرات الجديدة والحد من مخاطرها.

للوصول إلى التوازن المنشود، يؤكد الكيالي على ضرورة وضع "مجموعة من المعايير والمقاييس" التي تحدد لوائح استخدام الذكاء الاصطناعي وأدواته، بهدف تقليل احتمالية وقوع الكوارث والتعامل مع المخاطر المتوقعة بحكمة وأمان.

في الختام، لم يعد السؤال الأساسي حول "كلود" هو مقدار معرفته، بل مقدار ما يُسمح له بفعله. فمع انتقال الذكاء الاصطناعي من تقديم الاقتراحات إلى تنفيذ المهام، تتغير طبيعة الرقابة البشرية من مراجعة النتائج إلى تحديد حدود التفويض، وما يمكن للوكيل الوصول إليه أو تغييره، ومتى يجب عليه التوقف وترك القرار للإنسان.