ثغرات وسوء فهم: ماذا كشفت حوادث اختراق نماذج شركة أنثروبيك للذكاء الاصطناعي؟

أقرت شركة أنثروبيك الأميركية، المطوّرة لروبوت الدردشة كلود، بأن سلسلة من حوادث الاختراق المرتبطة بنماذج الذكاء الاصطناعي التابعة لها كشفت عن فشل في الأمن التشغيلي، مؤكدة أنها شددت إجراءات الاختبار لمنع تكرارها.

وكانت أنثروبيك قد كشفت في تموز/يوليو الماضي أن نماذجها تمكّنت في ثلاث مناسبات من الوصول إلى الإنترنت المفتوح، كما حصلت بصورة غير مصرح بها على أنظمة تابعة لثلاث مؤسسات. وفي تدوينة جديدة تناولت فيها هذه الحوادث، أقرت الشركة بأن تقنياتها ليست متوافقة بصورة مثالية مع القيم والأهداف البشرية.

وأوضحت أن النماذج خضعت لاختبارات متعمدة من دون تفعيل إجراءات الحماية الخاصة بالأمن السيبراني، وأنها تمكنت من الوصول إلى الإنترنت المفتوح نتيجة سوء فهم مع شركة خارجية كانت تتولى عمليات الاختبار. وعلى إثر هذه الحوادث، أوقفت أنثروبيك مؤقتاً بعض اختبارات الأمن السيبراني الداخلية والخارجية، بهدف اعتماد نظام حماية أكثر صرامة.

ومنذ ذلك الحين، أضافت أنثروبيك مجموعة من الإجراءات، من بينها نظام إنذار يرسل تنبيهات عندما يحاول النموذج الخروج من بيئة الاختبار أو الوصول إلى الإنترنت، وتعزيز عزل بيئات الاختبار الأكثر خطورة، فضلاً عن إلزام شركات الاختبار الخارجية بمجموعة من معايير السلامة.