كيف يظهر التحيز في أنظمة الذكاء الاصطناعي؟

التحيز في النظام الذكي هو نمط من النتائج يضر فئة أو يعاملها بصورة غير عادلة. قد يدخل من البيانات أو تعريف الهدف أو طريقة القياس أو سياق الاستخدام. لذلك لا يكفي حذف صفة حساسة من الجدول؛ يمكن للرمز البريدي أو المدرسة أن يعمل بديلًا غير مباشر عنها.

إذا كانت بيانات التدريب تمثل الماضي، فقد تتعلم قراراته غير العادلة. نظام توظيف دُرب على سجلات شركة فضلت تاريخيًا فئة معينة قد يربط النجاح بسمات تعكس هذا التاريخ. البيانات صحيحة بوصفها سجلًا لما حدث، لكنها ليست معيارًا لما ينبغي أن يحدث.

ويظهر تحيز القياس عندما يختلف المؤشر عن الظاهرة المطلوبة. استخدام تكلفة العلاج السابقة لقياس الحاجة الصحية قد يقلل تقدير مرضى لم يحصلوا أصلًا على خدمة كافية. النموذج يتنبأ بالمؤشر الذي أعطي له، لا بالمفهوم الذي قصده المصمم في ذهنه.

عدم توازن العينة يجعل الأداء المتوسط مضللًا. دقة 95% قد تخفي أداء أضعف بكثير لفئة صغيرة. لهذا تُفصل النتائج حسب المجموعات ذات الصلة، مع الانتباه إلى أن التقسيم نفسه قد يهدد الخصوصية أو يثبت فئات اجتماعية معقدة.

هناك مقاييس مختلفة للعدالة، وقد تتعارض رياضيًا عندما تختلف المعدلات الأساسية. مساواة نسبة القبول ليست هي مساواة معدل الخطأ، ولا توجد معادلة واحدة تحسم القرار الأخلاقي. يجب تحديد الضرر والسياق وحق الاعتراض قبل اختيار المقياس.

التحيز قد يظهر بعد الإطلاق. يتغير السكان والسلوك، أو يستخدم الموظفون التوصية بطريقة لم يتوقعها المطور. لذلك تشمل الإدارة مراقبة مستمرة، وسجلًا للقرارات، وقناة شكوى، وقدرة بشرية حقيقية على مراجعة الحالة بدل ختم آلي شكلي.

تساعد وثائق البيانات في وصف مصدرها وفترتها والفئات الناقصة وكيف جرى تنظيفها. كما توثق بطاقة النموذج غرضه وحدوده واختبارات الأداء. هذه الوثائق لا تضمن العدالة، لكنها تمنع التعامل مع النظام كصندوق بلا تاريخ.

في القرارات عالية الأثر مثل الائتمان والتوظيف والصحة، ينبغي اختبار البديل الأبسط: هل يضيف النموذج فائدة واضحة؟ وهل يمكن شرح عناصر القرار؟ وقد يكون عدم استخدامه هو الخيار المسؤول إذا تعذر جمع بيانات مناسبة أو توفير مسار اعتراض.

لا يعني اكتشاف فرق إحصائي اتهام المطور بالنية. التركيز يكون على النتيجة وقابلية الإصلاح. يشارك في المراجعة خبراء المجال والمتأثرون والقانونيون، لأن فريق البرمجة وحده لا يعرف كل أشكال الضرر الواقعي.

توجد فروق بين التحيز وعدم الدقة. قد يخطئ النظام بالتساوي مع الجميع، أو يحقق متوسطًا جيدًا لكنه يركز الأخطاء على فئة بعينها. كما أن تحسين مقياس واحد قد ينقل الضرر: خفض الرفض الخاطئ قد يرفع القبول الخاطئ. لذلك تُعرض مصفوفة الأخطاء وتكلفة كل نوع على المتأثرين. ويجب فحص سلسلة النظام كاملة؛ فقد يكون النموذج متوازنًا بينما تُجمع الشكاوى بلغة لا تتاح لبعض المستخدمين، أو يراجع الموظف توصيات فئة أكثر من أخرى. العدالة خاصية للعملية لا لملف النموذج وحده.

## سؤال للنقاش

أي مرحلة تراها أخطر: جمع البيانات أم اختيار الهدف أم استخدام النتيجة، وكيف تختبرها؟

## المراجع

- NIST، إطار إدارة مخاطر الذكاء الاصطناعي.
- اليونسكو، توصية أخلاقيات الذكاء الاصطناعي.
- OECD، مبادئ الذكاء الاصطناعي المسؤول.