كيف أوقع الذكاء الاصطناعي محامياً في فخ الشهادات المزيفة بقضية قتل؟

في واقعة جديدة تسلّط الضوء على مخاطر الاعتماد غير المدقق على أدوات الذكاء الاصطناعي في المجال القانوني، وجد محامٍ في نيو مكسيكو نفسه أمام غرامة وإحالة تأديبية بعدما تضمنت مذكرة قضائية أعدها بمساعدة "شات جي بي تي" شهادات لشهود لم يكونوا موجودين أصلاً.

وكشفت المحكمة العليا في نيو مكسيكو أن محامي دفاع يستأنف حكم إدانة موكله في قضية قتل قدم مذكرة تضمنت شهادة شرطي وشهوداً مختلقين أنشأهم البرنامج. ووفقاً لـ "رويترز"، فرضت المحكمة غرامة على المحامي ستيفن آرونز، واعتبرته في حالة ازدراء للمحكمة لعدم تحققه من دقة المذكرة القضائية، التي قال آرونز إنه أعدها بمساعدة برنامج الذكاء الاصطناعي.

وأضافت المحكمة أن المذكرة تضمنت شهادة زائفة من شهود مختلقين بالكامل، وأفادت بأن آرونز أظهر افتقاراً إلى الندم وعدم اكتراث بموكله. ولذلك، فرض القضاة عليه غرامة قدرها 5 آلاف دولار، وقالوا إنهم سيحيلونه إلى مجلس تأديب المحامين للتحقيق معه.

من جهته، قال آرونز في بيان إنه استخدم "شات جي بي تي" لتلخيص إجراءات المحاكمة عندما وافق على تولي استئناف المتهم العام الماضي، وإنه لم يكن يدرك مدى قدرة الذكاء الاصطناعي على هلوسة الحقائق، مضيفاً: "أشعر بالندم، لكنني آمل أن يأخذ مجلس التأديب في الاعتبار أنها كانت غلطة غير متعمدة".

وكان آرونز، وهو محامٍ خاص مقره سانتا فيه، يتولى استئناف أوسكار رينيه ساندوفال، الذي دفع ببراءته من قتل والدة أطفاله، قبل إدانته العام الماضي والحكم عليه بالسجن مدى الحياة. وكشف للمحكمة خلال جلسة في 21 أغسطس/آب أنه أدخل نصاً مفرغاً من تسجيلات المحاكمة ومواد أخرى متعلقة والقضية إلى "شات جي بي تي"، مفترضاً أن البرنامج سيُنتج ملخصاً محكماً لا يمكن دحضه.

وتشكل هذه العقوبة أحدث واقعة في سلسلة متزايدة من القضايا التي عاقب فيها قضاة على مستوى الولايات والحكومة الفيدرالية محامين لتقديمهم وثائق قضائية أنشأتها أدوات الذكاء الاصطناعي من دون مراجعتها والتأكد من صحتها بما يكفي.