دراسة تحذر: الذكاء الاصطناعي يقدم إجابات أقل دقة لفئات معينة من المستخدمين
كشفت دراسة جديدة أجراها مركز CCC التابع لمعهد ماساتشوستس للتكنولوجيا (MIT) أن نماذج الذكاء الاصطناعي المتقدمة — بما في ذلك نماذج من OpenAI وAnthropic وMeta — قد تُظهر أداءً أدنى ودقة أقل في الإجابات عند التعامل مع فئات معينة من المستخدمين مقارنة بآخرين.
وأظهرت نتائج البحث أن هذه النماذج — التي يُفترض أنها توفر معلومات موثوقة وعالية الجودة — قد تعطي ردوداً أقل صحة أو ترفض الإجابة على أسئلة معينة عندما يتعامل معها مستخدمون لديهم مستوى أقل من اللغة الإنجليزية، أو تعليم أقل، أو ينتمون إلى خلفيات جغرافية خارج الولايات المتحدة.
وقال الباحثون إن النماذج أحيانًا ترتكب أخطاء في الحقائق أو تستخدم أسلوبًا متعاليًا أو مستهزئًا في ردودها مع بعض المستخدمين مقارنة بسلوكها مع مستخدمين آخرين، مما يعكس وجود تحيّزات ضمنية تستند إلى الافتراضات الاجتماعية المتضمنة في بيانات التدريب.
على سبيل المثال، وجد الباحثون بأن أحد النماذج — عند الإجابة على أسئلة مماثلة — استجاب بلغة مُزدانة بتعابير متعالية أو معاكسة للمستخدمين الأقل تعليمًا، في حين قدم إجابات أكثر دقة واحترامًا عند التعامل مع مستخدمين ذوي تعليم أعلى.
وأشار فريق البحث إلى أن بعض النماذج رفضت الإجابة على أسئلة تتعلق بموضوعات أساسية — مثل الطاقة النووية أو التاريخ — لأسباب غير واضحة للمستخدمين من خلفيات مختلفة، بالرغم من أنها قدمت هذه المعلومات بدقة عند السؤال عنها من قِبل مستخدمين آخرين.
وأكد الباحثون أن هذه التحيزات لا تنبع من نماذج الذكاء الاصطناعي نفسها بشكل مستقل، بل تنشأ من البيانات المستخدمة في تدريبها والتفاعلات الاجتماعية التي تضمنتها تلك البيانات، الأمر الذي قد يؤدي إلى مخاطر زيادة عدم المساواة في الوصول للمعلومات إذا تُركت دون معالجة.
تداعيات الدراسة: تأتي هذه النتائج في وقت تتزايد فيه الاعتمادية على الذكاء الاصطناعي في التعليم، الصحة، العمل، والبحث، مما يطرح تساؤلات حول العدالة التكنولوجية وضرورة تطوير نماذج أكثر إنصافًا وعدلاً في طريقة تقديم المعلومات للمستخدمين من مختلف الخلفيات.
في الوقت الذي تُروَّج فيه تقنيات الذكاء الاصطناعي كأدوات لتمكين المعرفة للجميع، تذكّر هذه الدراسة بوجود ثغرات جادة في العدالة والدقة تتطلب معالجات تقنية وأخلاقية عاجلة.