هل كشف العلماء سر الصندوق الأسود للذكاء الاصطناعي؟ باحث يقدم تفسيراً جديداً لعمل الشبكات العصبية

يثير سؤال حول إمكانية فهم العلماء لما يحدث داخل نماذج الذكاء الاصطناعي، التي طالما وصفت بـ"الصندوق الأسود"، نقاشاً واسعاً في وادي السيليكون. جاء هذا النقاش عقب نشر باحث بارز أطروحة تتحدى التصورات الأساسية حول الشبكات العصبية، وتقترح أن هذه الأنظمة قد تكون أكثر قابلية للفهم والتنبؤ مما كان يعتقد الخبراء. وقد تناولت صحيفة "ذا أتلانتيك" وموقع Futurism أطروحة الباحث نيك كاماراتا، التي أثارت حماس شخصيات بارزة في قطاع التكنولوجيا، بما في ذلك الرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان. ووصف أحد الباحثين في "أوبن إيه آي" العمل بأنه "لحظة كبرى في تاريخ العلم"، بينما رأى آخرون أنه قد يفتح طريقاً جديداً لفهم سلوك أنظمة الذكاء الاصطناعي والحد من مخاطرها.

تعتمد نماذج الذكاء الاصطناعي الحديثة على شبكات عصبية معقدة، ورغم قدرة الباحثين على تدريبها، يظل فهم الأسباب الدقيقة وراء استجاباتها تحدياً علمياً. تُوصف هذه النماذج غالباً بـ"الصناديق السوداء" لتعقيد عملياتها الداخلية. لكن كاماراتا، الموظف السابق في "أوبن إيه آي" والباحث الحالي في شركة Goodfire، يرى أن هذا التصور قد يكون مبالغاً فيه. والمفارقة أن كاماراتا ساهم سابقاً في تطوير الفهم العلمي الذي جعل الشبكات العصبية تبدو غامضة، قبل أن يعود اليوم ليشكك في أحد افتراضاته الأساسية.

تتمحور أطروحة كاماراتا حول وظيفة العصبونات الاصطناعية وكيفية استجابتها للمعلومات. فبينما أظهرت أبحاث سابقة أن العصبون الواحد قد يستجيب لمفاهيم تبدو غير مترابطة، يقترح كاماراتا تفسيراً بديلاً مفاده أن هذه الاستجابات قد تكون مرتبطة بخصائص بصرية مشتركة لم يلاحظها الباحثون سابقاً. على سبيل المثال، قد يستجيب عصبون واحد لصور قطط وسيارات بسبب وجود نمط بصري مشترك يشبه حرف V، بدلاً من التعرف على المفهومين بشكل منفصل. ويرى كاماراتا أن بعض العصبونات قد تمتلك وظائف أكثر اتساقاً ووضوحاً مما توحي به التفسيرات السابقة.

تتجاوز أهمية الأطروحة مجرد تفسير معالجة الصور لتشمل تحدي "مواءمة الذكاء الاصطناعي" (AI Alignment)، الذي يهدف إلى ضمان توافق سلوك الأنظمة مع الأهداف البشرية وتقليل السلوكيات غير المتوقعة أو الضارة. فإذا تمكن الباحثون من فهم العمليات الداخلية لهذه الأنظمة، فقد يصبح من الممكن تفسير تجاوز روبوتات المحادثة لضوابط السلامة أو انخراط الوكلاء المستقلين في محاولات اختراق إلكتروني. ووصف باحث في "أوبن إيه آي" الأطروحة بأنها "واحدة من أبرز دواعي التفاؤل منذ سنوات"، لكن هذه الاحتمالات تظل مرتبطة بصحة النتائج وقابليتها للتطبيق على أنظمة أكثر تعقيداً.

على الرغم من الاهتمام الكبير بالأطروحة، لا يزال هناك خلاف بشأن دلالاتها العلمية. فقد ركزت التجارب الأساسية لكاماراتا على نماذج الرؤية الحاسوبية، وهي أبسط من النماذج اللغوية. ورغم تناوله لتجارب على نماذج لغوية، فإن تعميم النتائج على جميع الأنظمة المتقدمة لا يزال غير مؤكد، كما أن النص لم يخضع لمراجعة الأقران بعد. اعترض باحث في Google DeepMind على المبالغة في أهمية النتائج، مؤكداً استمرار اعتقاده بصحة ظاهرة "التراكب" (Superposition).

تكمن مشكلة أخرى في الفارق بين فهم وظيفة العصبون الواحد وفهم سلوك الشبكة العصبية بأكملها. فحتى لو تمكن العلماء من تحديد وظيفة كل عصبون، فإن ذلك لا يعني بالضرورة قدرتهم على تفسير كيفية تفاعل ملايين المكونات أو التنبؤ بجميع نتائجها. ويشير هذا إلى أن تحسين قابلية تفسير النماذج قد يكون خطوة مهمة نحو تطوير أنظمة أكثر أماناً، ولكنه ليس ضمانة كافية.

تذهب "ذا أتلانتيك" إلى أن التحدي لا يقتصر على اكتشاف كيفية عمل النماذج، بل يشمل استعداد الشركات لتحويل المعرفة العلمية إلى إجراءات فعلية للسلامة. وتنتقد الصحيفة اندفاع القطاع نحو تطوير أنظمة أكثر تقدماً دون تنظيم جاد، مما يترك قرارات السلامة بيد الشركات نفسها. ويؤكد تقرير Futurism أن سلامة الذكاء الاصطناعي تتطلب أطر حوكمة قانونية واجتماعية، وليس فقط حلولاً تقنية. قد تمثل أطروحة كاماراتا خطوة مهمة في أبحاث تفسير الذكاء الاصطناعي، لكن السؤال الأوسع يبقى حول قدرة الشركات على استخدام هذا الفهم لجعل أنظمتها أكثر أماناً، وليس فقط أكثر تطوراً.