في الأنظمة التقنية الكبيرة، يتوزع صنع القرار على طبقات متعددة: المهندسون الذين يختارون بيانات التدريب، والمديرون الذين يحددون أهداف النظام، والمستخدمون الذين يتعاملون مع مخرجاته، والمتضررون الذين لا يعرفون في الغالب وجود النظام أصلاً. هذا التوزيع يُنتج فجوة المساءلة: حين يُخطئ النظام، يصعب تحديد المسؤول.

في قضية Amazon، لم يختر أي مهندس بشكل واعٍ تفضيل الرجال على النساء. اختار الفريق تدريب النظام على بيانات تاريخية — وهو قرار تقني يبدو محايداً — ثم تركوا النظام يتعلم الأنماط. لكن الأنماط التاريخية تحمل التحيزات التاريخية، وهكذا تحوّل قرار "تقني" إلى قرار أخلاقي ذو عواقب حقيقية.

الحوكمة الداخلية: تعتمد معظم الشركات الكبرى على لجان أخلاقيات داخلية وسياسات استخدام مقبول. المشكلة أن هذه اللجان تتبع المؤسسة ذاتها التي قد يكون نظامها محلّ مساءلة — تعارض مصالح بنيوي.

الحوكمة التنظيمية: اتحاد أوروبا أصدر اللائحة العامة لحماية البيانات (GDPR) عام 2018، وأصدر قانون الذكاء الاصطناعي عام 2024. هذه القوانين تضع حدوداً، لكنها تعاني دائماً من التأخر: تأتي بعد أن تكون الأضرار قد وقعت بالفعل.

المساءلة الديمقراطية: الحجة الأقوى أن المجتمع — عبر ممثليه المنتخبين — يجب أن يُقرر أي أنظمة الذكاء الاصطناعي مقبولة في الفضاء العام. لكن هذا يتطلب كفاءة تقنية لدى المشرّعين لا تزال نادرة.

دراسة منظمة AI Now Institute عام 2019 وجدت أن غالبية فرق الذكاء الاصطناعي في الشركات الكبرى متجانسة ديموغرافياً إلى حد بعيد. حين يغيب التنوع في بناء النظام، تغيب معه احتياجات ومخاوف مجموعات واسعة من المستخدمين المحتملين. القرار حينئذ ليس محايداً — هو اختيار يعكس التجارب المحدودة لمن صنعه.

أضرار الذكاء الاصطناعي تتوزع على أصناف متمايزة. الضرر المادي المباشر: الاعتقال الخاطئ لويليامز — ساعات في الحجز، صدمة نفسية، دمار في السمعة. الضرر البنيوي: حين يُصبح تحيز النظام عاملاً في منظومة تمييز مؤسسي أشمل. ضرر القدرة: حين يُنتزع من المرء قدرته على الطعن في قرار لا يعرف بوجوده أصلاً.

الباحثة Joy Buolamwini في معهد MIT Media Lab وثّقت عام 2018 أن أنظمة التعرف على الوجه من كبرى الشركات التقنية — Microsoft وAmazon وIBM — تُخطئ في تصنيف الجنس للنساء ذوات البشرة الداكنة بمعدلات تصل إلى 34.7%، مقارنة بأقل من 1% للرجال ذوي البشرة الفاتحة.

الأضرار لا تتوزع عشوائياً. تتركّز في المجموعات التي تُمثَّل بشكل أقل في بيانات التدريب، أو التي تعاني أصلاً من تهميش اجتماعي يجعل الطعن أصعب، أو التي تتعامل مع أنظمة عامة لا تملك القدرة على تجنبها — كأنظمة قضاء أو صحة أو تأمين. هذا يجعل أخطاء الذكاء الاصطناعي في هذه المجالات أكثر من مجرد أخطاء تقنية — إنها عدالة مقلوبة.

نظام COMPAS لتقييم خطورة المتهمين الجنائيين في الولايات المتحدة — أثبت تحقيق ProPublica عام 2016 أنه يُبالغ في تقييم خطورة المتهمين السود بمعدل الضعف مقارنة بالمتهمين البيض. هؤلاء الأفراد كانوا أمام قضاة يتخذون قرارات بالسجن استناداً جزئياً إلى درجة الخوارزمية — دون أن يُخبروا بطريقة عملها.

معضلة العربة الفلسفية تسأل: هل تقتل شخصاً واحداً لإنقاذ خمسة؟ في السيارات ذاتية القيادة، تتحول هذه الأسئلة إلى كود مكتوب يتخذه مهندسون قبل أن تقع الحادثة. لكن قضية Uber تكشف أن القرارات الحقيقية الأكثر أهمية ليست "من تضرب" — بل هي: كيف تُصنّف الأشياء؟ ما مستوى الثقة المطلوب للتصرف؟ هل تُعطّل نظام الكبح لتحقيق سلاسة السير؟

هذه قرارات هندسية تحمل عواقب أخلاقية. وهي لا تتخذ في لحظة الأزمة — بل على طاولات الاجتماع قبل أشهر من النشر.

أجرى باحثو MIT عام 2018 دراسة "Moral Machine" جمعوا فيها استجابات أكثر من مليوني شخص من 233 دولة حول سيناريوهات اصطدام للسيارات ذاتية القيادة. النتائج كشفت تبايناً ثقافياً واسعاً: المجتمعات الغربية مالت لإنقاذ الشباب وإعطاء الأولوية للمشاة، بينما أعطت مجتمعات شرق آسيا أهمية أكبر للأكبر سناً والسلطة الاجتماعية.

هذا يطرح سؤالاً جوهرياً: حين تُبرمج قيم تلقائية في نظام عالمي، قيم من تختار؟ شركة أمريكية في سيليكون فالي لا يمكنها ادعاء الحياد الثقافي حين تُحدد كيف تتصرف سيارتها في الرياض أو دبي أو القاهرة.

أعلنت Uber تعليق برنامج السيارات ذاتية القيادة إثر حادثة Herzberg، قبل أن تبيع الوحدة بالكامل لشركة Aurora. خلصت هيئة سلامة النقل الوطنية الأمريكية (NTSB) إلى أن نظام Uber فشل في تحديد المشاة بشكل صحيح، وأن تعطيل الكبح الطارئ كان قراراً تصميمياً بالغ الخطورة. لم يُوجَّه أي اتهام جنائي لأفراد في الفريق الهندسي. السائدة في غرفة التحكم — Rafaela Vasquez — وُجّهت إليها تهمة الإهمال الجسيم، وهي في المقعد الخلفي كانت تُشاهد برنامج بث عبر هاتفها.

في عام 2016، أثبت باحثو علم الكمبيوتر Alexandra Chouldechova وMoritz Hardt وزملاؤهم رياضياً أن ثلاثة تعريفات شائعة للعدالة لا يمكن تحقيقها في آنٍ واحد إلا في حالة واحدة: إذا كانت معدلات الجريمة متساوية بين المجموعات. حين تتفاوت هذه المعدلات — وهي تتفاوت دائماً في العالم الحقيقي بسبب التفاوتات الاجتماعية والاقتصادية — يصبح تحقيق عدالة شاملة مستحيلاً رياضياً.

التعريفات الثلاثة هي: التقويم المعايَرة (الدرجة تتنبأ بالنتائج بنفس الدقة للجميع)، والتكافؤ في الإيجابية الكاذبة (من لا يُخطئ لا يُعاقب بالتصنيف الخاطئ)، والتكافؤ في السلبية الكاذبة (من سيُخطئ لا يُفوت التصنيف المرتفع).

عام 2019، اكتشف باحثون أن خوارزمية رعاية صحية تُستخدم على نطاق واسع في المستشفيات الأمريكية تُقلّل باستمرار من احتياجات المرضى السود — لأنها استخدمت "التكاليف الطبية السابقة" كمؤشر للمرض. لكن المرضى السود تاريخياً أنفقوا أقل على الرعاية الصحية بسبب الحواجز في الوصول إليها، لا لأنهم أكثر صحة. النظام ورّث وضخّم لامساواة قائمة.

في عالم التأمين والقروض، يُثار نقاش مستمر: هل يجوز استخدام متغيرات ارتباطية بالعرق أو السكن الجغرافي (مثل الرمز البريدي) في تسعير الخدمات؟ قد تكون دقيقة إحصائياً، لكنها تُعيد إنتاج التمييز عبر بوابة "الحياد التقني".

حجة Facebook كانت أن المستخدمين وافقوا على شروط الاستخدام. لكن "شروط الاستخدام" التي لا يقرأها أحد، والمكتوبة بلغة قانونية معقدة، لا تُنتج موافقة مستنيرة — إنها تُنتج ورقة حماية قانونية تُخفي وراءها غياب الموافقة الحقيقية.

الموافقة الأخلاقية المستنيرة تتطلب ثلاثة عناصر: الإفصاح الكافي (ما الذي يُجمع وكيف يُستخدم)، والفهم (المعلومات مقدمة بصورة مفهومة)، والاختيارية (القدرة الفعلية على الرفض دون خسارة الخدمة الأساسية).

الاستقلالية — القدرة على اتخاذ قرارات حرة ومستنيرة — تتعرض لضغط منهجي من أنظمة الذكاء الاصطناعي المصممة لتعظيم التفاعل. تقنيات مثل التغذية الراجعة المتغيرة (النقر لرؤية ما قد يكون مثيراً)، والتمرير اللانهائي، والإشعارات المتكررة — كلها مُصممة لاستغلال الأنماط النفسية وتقليص الاختيار الواعي.

عام 2021، وثّقت Frances Haugen، المُبلّغة الداخلية من Facebook، أن الشركة كانت تعلم بتأثير Instagram الضار على صحة المراهقين النفسية — وخاصة الفتيات — لكنها آثرت صمت المعلومة على الشفافية. الصراع كان واضحاً: استقلالية المستخدم مقابل نمو المنصة.

في المنطقة العربية، حيث تخضع منصات التواصل الاجتماعي لأنظمة قانونية متباينة وتمتلك تأثيراً اجتماعياً عميقاً، تتخذ قضايا الموافقة والاستقلالية أبعاداً خاصة. التحكم في الخوارزميات التي تُقرر ما يراه المستخدم العربي أولاً يُؤثر في الحوارات الاجتماعية والسياسية. ومسألة من يُقرر قواعد ضبط المحتوى — ووفق أي قيم — لا تزال في معظمها خارج المساءلة العامة.

التبليغ (Whistleblowing) فعل من يُطلع طرفاً خارجياً على معلومات تكشف عن ضرر جار أو وشيك تُخفيه مؤسسته. من منظور أخلاقيات الواجب الكانطية، يُقال إن على الموظف في مواقف بعينها واجب أخلاقي بالتبليغ حين تفشل آليات التصحيح الداخلية. من منظور نفعي، إذا كان الضرر المتوقع من الصمت أكبر من تكلفة التبليغ، يميل الميزان نحو الإفصاح.

في حالة Haugen، كانت الوثائق تُظهر أن Facebook علمت بأضرار إدمانية وصحية لمنتجاتها ومضت قدماً. الضرر لم يكن محتملاً — كان موثقاً داخلياً.

التدقيق الخارجي: تتزايد المطالبات بإلزام شركات الذكاء الاصطناعي بتدقيق مستقل من جهات خارجية. التحدي: شركات التدقيق تُموَّل من الشركات نفسها، مما يُعيد إنتاج تعارض المصالح.

الشفافية الخوارزمية: مطلب نشر معلومات كافية عن طريقة عمل الأنظمة — خاصة تلك التي تؤثر في القرارات الحياتية كالقروض والتوظيف والقضاء. قانون الاتحاد الأوروبي للذكاء الاصطناعي 2024 يُلزم بشفافية جزئية للأنظمة عالية الخطورة.

حق الطعن: حق الفرد في مراجعة القرارات الخوارزمية التي تمسّه. هذا مكرّس في GDPR لكنه يبقى صعب التطبيق عملياً.

تعرّضت Timnit Gebru لحملة تشويه مُنظّمة على وسائل التواصل بعد إقالتها. وقالت Haugen إنها لم تكن لتُقدم لو لم يكن لديها تأمين صحي مستقل وادخارات تكفيها للصمود. هذا يكشف معادلة مؤلمة: الأكثر قدرة على تحمّل تبعات التبليغ هم من يحتاجون إليه أقل. وهو ما يجعل حماية المُبلِّغين مؤسسياً — قانوناً ومالياً ومهنياً — شرطاً ضرورياً للمساءلة الفعّالة.

المشكلة مع إعلانات المبادئ الأخلاقية في قطاع التقنية ليست في المبادئ ذاتها — معظمها معقول. المشكلة في غياب آليات التطبيق القابلة للقياس والمساءلة. حين تُعلن شركة "التزامها بالشفافية" دون تحديد ما تشاركه وما لا تشاركه ولماذا، يبقى الإعلان علاقات عامة لا التزاماً حقيقياً.

مشروع "AI Fairness 360" الذي أطلقته IBM والأدوات المفتوحة المصدر المماثلة تُقدّم خطوات تقنية ملموسة — لكنها تظل أدوات في يد من يختار استخدامها. الأداة لا تُلزم.

مرحلة التصميم: من يُشارك في تحديد مشكلة النظام وأهدافه؟ أي فئات المتأثرين يُمثَّلون؟ ما الأضرار المحتملة التي تُجرى لها تقديرات مسبقة؟

مرحلة البيانات: كيف جُمعت البيانات؟ هل شملت فئات التأثير الكاملة؟ هل نُظّفت من التحيزات أم أُعيد إنتاجها؟ من يملك حق الطعن في استخدام بياناته؟

مرحلة النشر: ما آليات الرقابة المستمرة؟ كيف تُكتشف أخطاء التوزيع؟ ما إجراءات الانسحاب حين يُخفق النظام؟

مرحلة المساءلة: من يُراجع؟ من يُبلَّغ بالأضرار الموثقة؟ ما الآلية التي تُمكّن المتضررين من المطالبة بالإنصاف؟

قانون الذكاء الاصطناعي الأوروبي 2024 هو أول إطار قانوني شامل يُصنّف الأنظمة حسب مستوى خطورتها، ويفرض متطلبات ملزمة على الأنظمة عالية الخطورة كتلك المستخدمة في القضاء والتوظيف والبنية التحتية الحيوية. هذا تقدم حقيقي — لكنه يبقى إقليمي النطاق، ومن المبكر تقييم فعالية إنفاذه.

الأمل الأكبر ربما لا يكمن في اللوائح وحدها، بل في بناء ثقافة مهنية في مجال الذكاء الاصطناعي تُعلّم الطلاب والممارسين أن الأسئلة الأخلاقية ليست قيوداً خارجية — بل جزء لا يتجزأ من كفاءتهم المهنية. هذا ما تسعى هذه الوحدة وهذه الأكاديمية إلى بنائه.