تُسمّى هذه الظاهرة "الهلوسة" (Hallucination)، وهي توليد نموذج لغوي محتوى مقنعًا تمامًا لكنه غير صحيح. المصطلح محلّ جدل: البعض يفضّل "اختلاق" لأن النموذج لا يُحدث هلوسة بالمعنى السريري، بل يتنبأ بالرمز التالي الأكثر احتمالًا، وأحيانًا يكون الرمز الأكثر احتمالًا خاطئًا.

الأخطر أن النموذج لا "يعلم" أنه لا يعلم. لا توجد آلية داخلية تُميّز بين "أنا متأكد" و"أنا أخمّن". كل استجابة تُقدَّم بنفس الأسلوب، سواء كانت حقيقة موثّقة أو اختلاقًا تامًا.

في الإحصاء، نقول أن نموذجًا "مُعايَر جيدًا" حين تتوافق ثقته مع دقته: حين يقول النموذج "أنا 80% واثق"، يكون صحيحًا فعلًا في 80% من المرات. نماذج اللغة الكبيرة كثيرًا ما تكون "مُبالِغة في الثقة" — تُقدّم المعلومات بيقين لا يعكس احتمال صحتها.

أبحاث Meta AI (2023) على LLaMA أظهرت أن النموذج كان واثقًا من إجابات خاطئة في نحو 30% من الحالات — وكانت ثقته من هذه الإجابات مرتفعة كثقته من الإجابات الصحيحة. هذا يُصعّب على المستخدم التمييز دون التحقق المستقل.

لكل نموذج لغوي "تاريخ قطع" (Cutoff Date) — النقطة التي انتهت عندها بيانات التدريب. أي حدث بعد هذا التاريخ غير موجود في معرفة النموذج. المشكلة ليست فقط المعلومات المنسيّة — بل أن النموذج قد يُجيب على أسئلة تتعلق بالأحداث اللاحقة بنفس الثقة التي يُجيب بها على أسئلة تاريخية موثّقة.

استجابة لذلك، طوّرت شركات كـ OpenAI وGoogle نماذج مزوّدة بالبحث على الويب في الوقت الحقيقي. لكن هذا يُضيف مشكلة جديدة: جودة المصادر المُسترجَعة وصحة ربطها بالسؤال المطروح.

المساءلة التقليدية تفترض وجود إنسان يمكن سؤاله: لماذا اتخذت هذا القرار؟ الأنظمة الآلية تُخلق "فجوة المساءلة" حين لا يوجد إنسان واحد يمكنه تفسير قرار بعينه: المطوّر لم ينشر النموذج، والمشغّل لم يبنه، والشركة تعتمد على مزوّد طرف ثالث.

قبل عام 2016، لم تكن هناك أطر قانونية واضحة للمساءلة في قرارات الذكاء الاصطناعي. اللائحة الأوروبية للذكاء الاصطناعي (AI Act 2024) تُصنّف الأنظمة عالية الخطورة — كتلك المستخدمة في التوظيف والائتمان والعدالة الجنائية — وتُلزم بمتطلبات صارمة للشفافية والتدقيق.

قضية Uber أظهرت أن الحجة "هذا ما قاله الخوارزمية" لا تُقبل دفاعًا كافيًا أمام القضاء. القرارات التي تؤثر في حقوق الأفراد تستلزم تفسيرًا وإمكانية الطعن — بصرف النظر عن كون القرار صادرًا عن إنسان أو آلة.

النماذج العميقة كالشبكات العصبية الكبيرة تعمل بطريقة يصعب على حتى مطوّريها تفسيرها لأفراد بعينهم. هذا ليس مجرد قضية تقنية — إنه قضية حوكمة. حين يتعذّر شرح سبب رفض قرض أو احتساب علاوة، يصبح التحيز والخطأ مدفونَين في طبقات لا يمكن التحقق منها.

ميدان "قابلية التفسير" (Explainability) والـ XAI يُحاول بناء أدوات تُظهر "لماذا" قرّر النموذج ما قرّر. لكن هذه الأدوات نفسها تقريبية وقد تعطي تفسيرات مُضلِّلة. ورقة بحثية من جامعة واشنطن (2021) أثبتت أن بعض تفسيرات LIME لنماذج الائتمان كانت متناقضة مع التفسيرات التي يُنتجها SHAP للنموذج ذاته.

التحيز لا ينشأ من "خطأ" في الكود — بل من الاختيارات التي تسبق كتابة سطر واحد من الكود. من يجمع البيانات؟ من يُعلّق عليها؟ من يُقرّر ماذا تعني "الإجابة الصحيحة"؟ هذه قرارات بشرية، ومعها يدخل التحيز البشري.

• تحيز الاختيار: مجموعة البيانات لا تمثّل التنوع الكامل للحالات التي سيواجهها النموذج.
• تحيز التغليف: البيانات التاريخية تعكس قرارات سابقة كانت هي ذاتها متحيزة.
• تحيز التصنيف: المُصنِّفون البشريون يُسقطون افتراضاتهم على التسميات.
• تحيز القياس: ما يُقاس ليس بالضرورة ما يُمثّل الظاهرة الحقيقية.

حين ينتشر نموذج متحيز على نطاق واسع، يتضاعف الضرر. المشكلة ليست خطأ فرديًا يصيب شخصًا واحدًا — بل نمط منهجي يصيب ملايين في كل مرة يُستخدم فيها النموذج. وكلما اعتمدت الجهات المستخدمة عليه دون تدقيق، كلما رسّخت التحيز وأعطته سلطة مؤسسية.

للغات غير الإنجليزية سياق خاص. معظم نماذج اللغة الكبيرة تدرّبت أساسًا على النص الإنجليزي، مما يعني أن معالجتها للعربية تحمل انحيازات مزدوجة: الانحياز الحضاري الغربي في فهم السياقات، وضعف التمثيل الكمّي لتنوع اللهجات والثقافات العربية. أبحاث مركز قطر للذكاء الاصطناعي (QCAI 2023) وثّقت أن أداء نماذج كبرى على الأسئلة الثقافية العربية كان أدنى بـ 18-22% مقارنةً بالأسئلة الإنجليزية المكافئة.

الباحثون حدّدوا أكثر من 20 تعريفًا رياضيًا مختلفًا للعدالة. المشكلة ليست أن التعريفات غامضة — بل أنها أُثبت رياضيًا أنه لا يمكن تحقيق بعضها معًا في آنٍ واحد حين تختلف معدلات الحوادث بين المجموعات.

• تكافؤ الدقة (Calibration): نفس نسبة الصحة لكل مجموعة. استخدمته Northpointe دفاعًا.
• تكافؤ معدل الخطأ الإيجابي الكاذب: نفس نسبة التصنيف الخاطئ كـ"عالي الخطورة" بين المجموعتين. هذا ما وثّقته ProPublica.
• تكافؤ الفرص: نفس معدل التعرف الصحيح على الحالات الفعلية عبر المجموعات.
• الإنصاف الفردي: الأفراد المتشابهون يتلقون معاملة متشابهة.

ثمة بُعد ثانٍ للعدالة لا يلتقطه أي مقياس رياضي: هل كانت العملية عادلة؟ الشخص الذي صُنِّف "عالي الخطورة" بناءً على عوامل لا يمكنه التحكم فيها — كمنطقته السكنية أو تاريخ عائلته — يُطرح سؤال: هل من العدل معاقبته على ما لم يختره؟

هذا التمييز بين العدالة الإجرائية (كيف اتُّخذ القرار؟) والعدالة التوزيعية (هل نتائج القرار موزّعة بإنصاف؟) يُفرز توترات حقيقية في تصميم الأنظمة. نموذج قد يكون إجرائيًا عادلًا (طبّق معيارًا موحّدًا) لكنه توزيعيًا ظالمًا (أفضى إلى نتائج غير متكافئة).

لا يمكن اختزال العدالة في مقياس رياضي واحد واعتبار المسألة محلولة. القرار بشأن أي تعريف للعدالة يُطبَّق هو قرار سياسي وأخلاقي، وينبغي أن يخضع للنقاش العام لا أن يُدفن في تحيزات تقنية. المهندس الذي يختار مقياسًا بدلًا من آخر يتخذ قرارًا أخلاقيًا، حتى لو لم يُدرك ذلك.

الأنظمة المعقدة نادرًا ما تفشل بسبب خطأ واحد. هندسة السلامة تُصنّف أنماط الفشل ضمن عدة فئات:

• فشل التصنيف: النموذج يُسيء تصنيف مدخل حرج — كما حدث في حادثة أوبر.
• فشل الحدّ (Edge Case Failure): النموذج يعمل بشكل صحيح في الحالات الشائعة لكنه ينهار في حالات نادرة لم تكن كافية في بيانات التدريب.
• فشل التوزيع: الحالة الجديدة تختلف اختلافًا جوهريًا عن توزيع بيانات التدريب.
• فشل التكوين: مكونات عدة تعمل بشكل فردي صحيح لكنها تتفاعل بشكل خاطئ.
• فشل الإنسان-الآلة: المشغّل البشري لا يفهم حالة النظام أو ينعدم انتباهه (التخدير بالأتمتة).

لا يوجد نظام بلا أخطاء. الهدف هو تصميم أنظمة تفشل بشكل آمن وقابل للاسترداد:

• الفشل الآمن (Fail-Safe): النظام يعود لحالة آمنة عند الفشل بدلًا من الاستمرار بشكل خاطئ.
• حدود الثقة: النموذج يُشير حين لا يكون واثقًا بدلًا من إنتاج إجابة خاطئة بثقة.
• تدخّل بشري للحالات الحرجة: القرارات ذات المخاطر العالية تُعاد لمشغّل بشري.
• مراقبة الإنتاج: رصد مستمر لانحراف النموذج عن أدائه المتوقع.
• الاختبار في الحالات النادرة: بناء مجموعات اختبار مخصصة للحالات الحرجة، ليس فقط التوزيع الطبيعي.

حين يعمل النظام بشكل صحيح 99% من الوقت، يتراجع انتباه المشغّل البشري تدريجيًا. وهذا بالضبط هو وقت أن يكون الإنسان في أشد الحاجة للانتباه — الـ 1% من الحالات الصعبة. هذه الظاهرة موثّقة في الطيران والطب والقيادة الذاتية. الحل ليس إزالة الإنسان — بل تصميم واجهات تُبقي الإنسان في حالة تنبّه حقيقية.

الهجوم العدائي هو تعديل مدروس ودقيق على المدخلات يُضلّل النموذج مع بقائه غير ملحوظ للإنسان. لفهم لماذا تعمل هذه الهجمات، يجب فهم كيف يتعلم النموذج: النموذج يُحسّن معاملاته للتمييز بين الأنماط الإحصائية. ما يبدو "مختلفًا" للإنسان (باندا مقابل جِبّون) قد يكون متطابقًا إحصائيًا من منظور النموذج، وما يبدو للإنسان إضافة ضئيلة قد يُغيّر التمثيل الرياضي للصورة جذريًا.

الهجمات العدائية جزء من منظومة أوسع من أساليب التلاعب:

• حقن البيانات (Data Poisoning): إدخال بيانات تدريب مُسمَّمة لتغيير سلوك النموذج طويل المدى. مثّلت هذه الطريقة تهديدًا حقيقيًا لنماذج التعلم الاتحادي.
• هجمات التحويل (Transfer Attacks): هجوم صُمِّم على نموذج مفتوح المصدر ينجح على نموذج مغلق لم يُختبر عليه مباشرةً — وهو ما يُسمى قابلية النقل.
• حقن الأوامر (Prompt Injection): في نماذج اللغة، إدراج تعليمات خفية في النص تُوجّه النموذج لتجاوز قيوده أو الكشف عن معلومات حساسة.
• هجمات الاستخراج (Model Extraction): استنتاج بنية أو بيانات تدريب النموذج من خلال استجواب مخرجاته بشكل منهجي.

أبرز الدفاعات المقترحة: التدريب العدائي (تدريب النموذج على أمثلة مُشوَّشة لتحصينه)، والشهادة (إثبات رياضي لمقاومة تشويه بمقدار محدد)، والكشف عن التشوّه. لكن كل دفاع حتى الآن قابل للاختراق بهجوم مُعدَّل. التنافس بين المهاجمين والمدافعين لا يزال جاريًا، وعمومًا الهجوم أسهل تصميمًا من الدفاع.