التحيّز الخوارزمي: ما هو وكيف تُعيد الآلة إنتاج ماضينا؟

تقدّمتَ بطلب قرضٍ عقاري فجاءك الرفض خلال ثوانٍ من خوارزميةٍ لم ترَ وجهك. ثم علمتَ أنّ جارك المماثل لك في الدخل والتاريخ الائتماني نال الموافقة لأنّ رمزه البريدي يقع في حيٍّ آخر. فهل كان القرار محايدًا حقًّا؟ هذا جوهر التحيّز الخوارزمي: آلةٌ نظنّها بمنأى عن الأهواء، وهي تتعلّم من سجلّاتنا المثقلة بالإقصاء والأحكام المسبقة.

من أين يأتي؟

لا تُبرمَج أنظمة التعلّم الآلي بقواعد صريحة، بل تستخلص أنماطها من بياناتٍ تاريخية. فإذا كانت تلك البيانات انعكاسًا لمجتمعٍ مارس التمييز يومًا ضدّ فئاتٍ من أبنائه، التقط النموذج هذا التحيّز بوصفه «حقيقةً» إحصائية. وقد كشفت دراسة «Gender Shades» (2018) أنّ ثلاثة أنظمة تجارية لتصنيف الجنس من صور الوجوه كانت شبه مثالية مع الرجال فاتحي البشرة (خطأ حتى 0.8%)، وكانت تخطئ في تصنيف النساء داكنات البشرة بنسبة بلغت 34.7%. ويُرجَّح أنّ السبب ضعف تمثيل هؤلاء في مجموعات الاختبار والتدريب المتداولة، إذ غلبت على المجموعتين اللتين فحصهما الباحثون البشرة الفاتحة (نحو 80% و86%). لم تكن الخوارزمية عنصرية بنيّةٍ مبيّتة، لكنها عجزت عن «رؤية» من غاب عن بياناتها.

والأخطر من الخطأ هالة الحياد: فرفض الآلة يُغلَّف بشرعيةٍ علمية تجعل الاعتراض عليه كالاعتراض على قانون الجاذبية، فيصير التمييز ناتجًا رياضيًّا لا يُسأل عنه أحد.

أمثلة من الواقع

العدالة الجنائية: أثارت أداة تقييم المخاطر «كومباس» جدلًا بعد تحقيقٍ صحفي (ProPublica، 2016) رأى أنها تُخطئ بنسبٍ مختلفة بحسب عِرق المتهم؛ فالمتهمون السود الذين لم يعاودوا الجريمة صُنّفوا عالي الخطورة بنسبة 44.9% مقابل 23.5% للبيض. وقد اعترضت الجهة المطوّرة وباحثون آخرون على المنهج، وهذا الخلاف نفسه موضوع الفكرة الثانية أدناه.
التوظيف: ذكرت «رويترز» (2018) أنّ إحدى كبرى الشركات تخلّت عن أداة فرز سير ذاتية لأنها تعلّمت خفض تقييم السير التي يظهر منها أنّ صاحبها امرأة، إذ كانت بيانات التوظيف السابقة ذكورية في معظمها، وقالت الشركة إنّ الموظفين لم يعتمدوا عليها منفردةً.

ثلاث حقائق يُغفلها الحديث الشائع

أولًا: حذف السمة الحسّاسة لا يكفي. الخوارزميات بارعة في اكتشاف «متغيّراتٍ بديلة»: الرمز البريدي قد ينوب عن العِرق، ونمط الإنفاق عن الطبقة (Dwork وآخرون، 2012). وقد يستلزم الإنصاف أن نقيس الفروق بين الفئات ونكشفها صراحةً، ثم نعالجها بضوابط يقرّها أهل الاختصاص ويراجعها الإنسان بدل أن نتعامى عنها؛ وهذا محلّ خلاف بين الباحثين.

ثانيًا: لا يوجد مقياسٌ رياضيّ واحد للإنصاف. برهن كلاينبرغ (Jon Kleinberg) وزملاؤه عام 2016 أنّ ثلاثة شروطٍ معقولة للإنصاف في درجات المخاطرة (المعايرة داخل كل مجموعة، وتوازن الأخطاء للفئة الموجبة، وتوازنها للفئة السالبة) لا تجتمع إلا إذا كان التنبؤ كاملًا أو كانت معدّلات الأساس متساوية بين المجموعتين. فاختيار أيّ مقياسٍ نريد ولأي ثمن قرارٌ قيميّ وسياسي لا هندسيّ بحت. والعدل في شرعنا هو المرجع الأعلى، والمقاييس أدواتٌ تُقاس به لا بديلٌ عنه.

ثالثًا: حلقة التغذية الراجعة. إذا كثّفت خوارزمية الشرطة التنبّؤية الدوريات في حيٍّ بعينه (Lum وIsaac، 2016)، ارتفعت أرقام الضبط فيه لأنّ العين المراقِبة أكثر، فعاد النموذج يرى في الأرقام تأكيدًا لتحيّزه الأول. فيتحوّل تحيّزٌ طفيف إلى تمييزٍ بنيويّ على مدى دوراتٍ متتالية.

كيف نعالجه؟

تنويع البيانات وتدقيق مصادرها قبل التدريب.
قابلية التفسير: لا يبقى القرار صندوقًا أسود.
حوكمةٌ ورقابة: تدقيق مستقل وإنسانٌ في الحلقة وفرقٌ متعدّدة الخلفيات، وتفصيلها في مقال «الذكاء الاصطناعي المسؤول».

ويتضاعف الخطر مع العربية: فقد غلبت على بيانات تدريب النماذج الكبرى الإنجليزية والثقافة الغربية، فيتسلّل إلينا تحيّزٌ لغويٌّ وثقافيٌّ (Naous وآخرون، 2024) يمسّ خصوصياتنا الاجتماعية والدينية؛ وتفصيله في مقال «الذكاء الاصطناعي العربي».

والتحيّز الخوارزمي ليس عيبًا عابرًا يزول بتطوّر المعالجات، بل سؤالٌ حضاريّ عن العلاقة بين العدل والآلة. وقد تكون الخوارزمية المتحيّزة أحيانًا مرآةً قاسية تكشف عللًا اجتماعية كنّا نتجاهلها. فلنجعل من هذه المرآة بدايةَ إصلاحٍ لا ذريعةَ استسلام، ولنبنِ الغد على رقابةٍ أخلاقية يقظة؛ فالعبرة ليست بذكاء الآلة بل بحكمة من يصنعها ومن يحاسبها.