يستخدم مئات الملايين من البشر نماذج اللغات الكبيرة LLM في مختلف المهام، غير مدركين أو متجاهلين تحيُّزاتها العنصرية ضد فئات معينة من البشر، مثل: الأفارقة الأمريكيين، ولهجتهم الأمريكيّة الإفريقيّة: مما يترتب عليه إجحاف هذه الفئات في مجالات التوظيف، أو أمام القضاء، وما شابه ذلك.

في دراسة منشورة بدورية Nature، سلّط الباحثون الضوء على تحامل الذكاء الاصطناعي ضد المتحدثين باللهجة الأمريكية الإفريقية؛ وذلك باستخدام اختبار المتكلم الخفيّ matched guise probing، لاستخلاص التحيزات الخفية للذكاء الاصطناعي، والتي يُمكن أن تترتب عليها عواقب وخيمة. 

بحسب ما جاء في هذه الدراسة، وغيرها من الدراسات الأخرى، فالذكاء الاصطناعي قد يُرجّح كفة المتحدثين باللهجة الأمريكية القياسية SAE، ويُرشّحهم للوظائف المرموقة على حساب المتحدثين باللهجة الأمريكية الإفريقية الذين يميل الذكاء الاصطناعي إلى إدانتهم في القضايا الإجرامية. فقد يُظهر نموذج للذكاء الاصطناعي مثل GPT-4 تمييزًا في أجوبته، رغم مراجعة البشر لها.

وتُظهر عنصرية نماذج الذكاء الاصطناعي إزاء لهجة الأمريكيين الأفارقة صورةً نمطية، تتماشى مع الصورة النمطية السلبية التي كانت موجودة قبل حركة الحقوق المدنية. لذلك استخدم الباحثون منهجية اختبار المتكلم الخفيّ بالاعتماد على علم اللغة الاجتماعي. تعتمد هذه المنهجية على كشف التحيزات الخفية بناءً على اللغة، عن طريق عرض تسجيلات أو عبارات على المشاركين، دون ذِكر العرق، فإن أظهروا انحيازًا في أحكامهم بناءً على لهجة القائل؛ كان ذلك دليلًا على التمييز اللغوي.

على هذا النسق، أعطى الباحثون نماذج الذكاء الاصطناعي جُملًا بنفس المعنى، ولكن بكلمات وتعابير مختلفة تُمثل اللهجتين الأمريكية القياسية، والأمريكية الإفريقية. ولتقييم التحيُّز استعانوا بثلاث دراسات مرجعيّة منذ العام 1993، وحتى 2012. ثم استخدموا عدة نماذج للذكاء الاصطناعي، وطلبوا منها أن تصنف  أصحاب العبارات وظيفيًا، ليجدوا الآتي:

مالت نماذج الذكاء الاصطناعي بشكلٍ كبير إلى تصنيف الأمريكيين الأفارقة في خانة الوظائف المتواضعة على المستوى الاجتماعي، مثل: الطباخ، أو الجنديّ؛ بينما صنّفت أصحاب اللهجة الإنجليزية الأمريكية القياسية في خانة الوظائف المرموقة اجتماعيًّا، مثل: عالم النفس، أو الأستاذ الجامعي، أو الخبير الاقتصادي. 

والأسوأ من ذلك، أن الباحثين عندما أخضعوا نموذج الذكاء الاصطناعي إلى اختبار في إدانة المتهمين في قضايا إجرامية بناءً على أقوال افتراضية لهم، أظهر النموذج انحيازًا إلى إدانة متحدثي اللهجة الأمريكية الإفريقية بالجرائم، أو استحقاقهم للإعدام، بشكل فارق عن إدانته لمتحدثي اللهجة الأمريكية القياسية. وكان ذلك فقط بسبب الفروق اللغوية. 

أكدت الدراسة أن لنماذج الذكاء الاصطناعي جانبًا متحيّزًا على المستوى الاجتماعي؛ فمن خلال الجمع بين منهجيّة اختبار المتكلم الخفيّ، وتقييم الصفات التاريخية، ومحاكاة السيناريوهات الواقعية، أثبت الباحثون وجود ما يُسمى بالعنصرية الخفية؛ مما يُبرز الحاجة الماسة إلى تغيير هيكل عمل أدوات الذكاء الاصطناعي، فضلًا عن طريقة تدريبها، ونوعية البيانات التي تُغذّيها.