135 تطبيقاً للذكاء الاصطناعي تنشئ صوراً عارية للمراهقين رغم القيود المفروضة!

كشف تقرير حديث عن وجود 135 تطبيقاً للذكاء الاصطناعي قادرة على إنشاء صور عارية، لا تزال متاحة للمراهقين رغم القيود المفروضة. يأتي هذا في ظل ثغرات واضحة في أنظمة تصنيف التطبيقات العمرية على متجري أبل وغوغل، والتي تسمح للمراهقين بالوصول إلى تطبيقات ذكاء اصطناعي لإنتاج محتوى إباحي دون الحاجة لموافقة. هذه التطبيقات، التي يمكنها تجريد الأشخاص من ملابسهم رقمياً، متاحة للمراهقين رغم القيود المفروضة عليها، وفقاً لتقرير أعدته منظمة (Tech Transparency Project) المعنية بالدفاع عن الحقوق الرقمية واطلعت عليه صحيفة "الغارديان".

تمكن باحثون من تنزيل 135 تطبيقاً من هذا النوع باستخدام حسابات تجريبية مسجلة لأطفال في سن 13 عاماً على متجري أبل وغوغل. وأظهر التحقيق أن عدداً من هذه التطبيقات صُنّف بشكل غير دقيق على أنه مناسب للقاصرين، مما سمح بتنزيلها حتى مع تفعيل أدوات الرقابة الأبوية.

تفرض شركتا أبل وغوغل قيوداً عمرية على التطبيقات التي تحتوي على مواد مخصصة للبالغين، لكن التقرير وجد أن الشركتين تعتمدان بشكل كبير على المطورين أنفسهم في تحديد مدى ملاءمة تطبيقاتهم للفئات العمرية المختلفة. وذكر التقرير أن العديد من التطبيقات التي تتيح تعرية الأشخاص صُنفت بشكل غير دقيق على أنها مناسبة للقاصرين، مما يتيح للمراهقين الوصول إليها حتى مع تفعيل الرقابة الأبوية.

وسلط التقرير الضوء على قضية مورغان دورفمان، التي اكتشفت أن طالباً في مدرسة ابنتها الثانوية بولاية بنسلفانيا استخدم تطبيقاً لإنشاء مقاطع فيديو ذات محتوى جنسي انطلاقاً من صور ابنتها وخمس فتيات أخريات. وأعربت دورفمان عن صدمتها لسهولة إنشاء محتوى إباحي باستخدام صور أشخاص عاديين، مشيرة إلى شعور الفتيات بالخوف والارتباك.

بعد التواصل مع الشركتين، أزالت أبل 25 تطبيقاً وحذفت غوغل ستة تطبيقات خلال فترة التحقيق. ومع ذلك، ظل الباحثون قادرين على استخدام التطبيقات التي سبق تنزيلها. وأعلنت أبل تشديد إرشادات مراجعة المحتوى وإلزام المطورين بمنع الصور الحميمة المنشأة دون موافقة، بينما أكدت غوغل اتخاذها إجراءات لاكتشاف التطبيقات الضارة وحذفها. وتكشف هذه القضية عن ثغرات في أنظمة التصنيف العمري والرقابة الأبوية، وصعوبة معالجة الأضرار بعد إنشاء صور ومقاطع حميمة دون موافقة أصحابها، حتى بعد إزالة التطبيقات من المتاجر.