AI Governance — یعنی AI حکمرانی — وہ ڈھانچہ ہے جو یہ طے کرتا ہے کہ AI کس طرح بنایا، تعینات، اور نگران کیا جائے۔ آج دنیا میں اس حکمرانی کا نظام بہت کمزور ہے۔ چند بڑی ٹیکنالوجی کمپنیاں — Google، Meta، Microsoft، OpenAI — وہ فیصلے کر رہی ہیں جو اربوں لوگوں کی زندگیوں پر اثر ڈالتے ہیں۔

یہ کمپنیاں امریکہ اور یورپ میں مرکوز ہیں، ان کے بورڈ بنیادی طور پر سفید فام، مرد، اور مغربی ہیں۔ جنوبی ایشیا، افریقہ، یا مشرق وسطیٰ کے عوام — جن پر ان نظاموں کا گہرا اثر پڑتا ہے — ان فیصلوں میں عملاً غیر موجود ہیں۔

AI کے تناظر میں اسٹیک ہولڈر (Stakeholder) وہ ہر فرد یا گروہ ہے جو AI کے فیصلے سے متاثر ہو۔ مگر ان سب کی طاقت برابر نہیں۔ جو لوگ سب سے زیادہ متاثر ہوتے ہیں — غریب، اقلیتیں، مزدور — وہ اکثر فیصلہ سازی کی میز پر نہیں ہوتے۔

Google کا واقعہ یہ دکھاتا ہے کہ اندرونی اخلاقی نگرانی ناکافی ہے۔ ملازمین نے بیرونی دباؤ سے کہیں زیادہ مؤثر احتجاج کیا۔ یہ بھی ظاہر کرتا ہے کہ accountability کے لیے صرف نیک نیتی کافی نہیں — بلکہ مضبوط ادارہ جاتی ڈھانچہ ضروری ہے۔

AI سے ہونے والے نقصان کو سمجھنے کے لیے محققین نے چند اہم اقسام بیان کی ہیں۔ تخصیصی نقصان (Allocative Harm) وہ ہے جب AI کسی گروہ کو وسائل یا مواقع سے محروم کرے — جیسے قرض نہ ملنا، نوکری نہ ملنا۔ نمائندگی کا نقصان (Representational Harm) وہ ہے جب AI کسی گروہ کو منفی انداز میں پیش کرے یا انہیں پسماندہ ظاہر کرے۔

Williams کا کیس "تخصیصی نقصان" کی انتہائی سنگین مثال ہے — اسے آزادی سے محروم کیا گیا۔ مگر یہ نقصان محض تکنیکی غلطی نہیں تھی — یہ ایک ایسے نظام کی ناکامی تھی جو ناقص ٹیکنالوجی کو بغیر جانچ کے استعمال کر رہا تھا۔

Williams کے کیس کے بعد امریکی کانگریس میں "Facial Recognition and Biometric Technology Moratorium Act" پیش کی گئی۔ کئی شہروں — San Francisco، Boston — نے حکومتی چہرہ شناسی پر پابندی لگا دی۔ مگر پاکستان سمیت بیشتر ممالک میں اس ٹیکنالوجی کا استعمال جاری ہے بغیر کسی قانونی ڈھانچے کے۔

یہ کیس یہ بھی واضح کرتا ہے کہ AI کا نقصان موروثی عدم مساوات کو مزید گہرا کرتا ہے۔ جو گروہ پہلے سے کمزور ہیں، وہ AI کی غلطیوں کا زیادہ شکار ہوتے ہیں کیونکہ ان کے پاس قانونی چارہ جوئی کے وسائل بھی کم ہیں۔

فلسفے کا مشہور "ٹرالی مسئلہ" (Trolley Problem) یہ ہے: اگر ایک بے قابو ٹرالی پانچ لوگوں کی طرف بڑھ رہی ہو، اور آپ لیور کھینچ کر اسے ایک شخص کی طرف موڑ سکتے ہو — تو کیا کریں گے؟ نتیجہ پرستی کہے گی: ایک کو مارو، پانچ بچاؤ۔ فرضی اخلاقیات کہے گی: کسی بے گناہ کو مارنا کبھی درست نہیں۔

خود چلنے والی گاڑیاں یہی مسئلہ کوڈ میں بدل دیتی ہیں۔ MIT کے Moral Machine پروجیکٹ نے ۲۰۱۸ء میں ۲۳۳ ممالک کے ۴۰ ملین لوگوں سے سوال کیا کہ حادثے میں گاڑی کسے بچائے — اور مختلف ثقافتوں کے جواب بہت مختلف نکلے۔

Herzberg کی ہلاکت کے بعد Uber نے عارضی طور پر خود مختار گاڑیوں کی جانچ روک دی۔ امریکی National Transportation Safety Board نے پایا کہ نظام نے Herzberg کو پہچانا مگر بریک لگانے کا فیصلہ "ملتوی" کر دیا — کیونکہ پروگرامرز نے ہنگامی بریک کی حساسیت کم کر دی تھی تاکہ گاڑی "جھٹکے" نہ لگائے۔ یہ ایک ڈیزائن فیصلہ تھا جس کے اخلاقی نتائج مہلک نکلے۔

Rafaela Vasquez — سیفٹی ڈرائیور — کو ۲۰۲۳ء میں تین سال قید کی سزا دی گئی۔ Uber کو کوئی فوجداری سزا نہیں ملی۔ یہ سوال کہ "مشین کی غلطی" اور "انسان کی غلطی" کے درمیان حد کہاں ہے، ابھی تک حل نہیں ہوا۔

محقق Chouldechova نے ۲۰۱۷ء میں ثابت کیا کہ AI میں انصاف کی تین عام تعریفیں ریاضیاتی طور پر ایک ساتھ ممکن نہیں — جب تک دونوں گروہوں کی جرم کی شرحیں برابر نہ ہوں۔ یہ "Impossibility Theorem of Fairness" کہلاتا ہے۔

پہلی تعریف: آزاد درستگی — ہر گروہ میں نظام کی درستگی برابر ہو۔ دوسری تعریف: برابر غلط مثبت شرح — بے گناہ لوگوں کو غلط طور پر خطرناک کہنے کی شرح ہر گروہ میں برابر ہو۔ تیسری تعریف: برابر غلط منفی شرح — خطرناک لوگوں کو غلط طور پر بے گناہ کہنے کی شرح برابر ہو۔ یہ تینوں ایک ساتھ ناممکن ہیں۔

پاکستان میں اگر AI نظام عدالتی فیصلوں، پولیس گشت، یا قرض دینے میں استعمال ہو تو انصاف کی یہ پیچیدگی اور گہری ہو جاتی ہے۔ معاشی طبقات، نسلی تنوع، اور صنفی عدم مساوات کا مطلب ہے کہ ڈیٹا خود پہلے سے متعصب ہے۔

COMPAS کی کمپنی Northpointe نے اپنا الگورتھم خفیہ رکھا — کسی نے جانچ نہیں کی کہ اسے کیسے بنایا گیا۔ یہ الگورتھمی شفافیت (Algorithmic Transparency) کا مسئلہ ہے — جب نظام کا طریقہ کار چھپا ہو تو جوابدہی ناممکن ہو جاتی ہے۔

باخبر رضامندی (Informed Consent) کا اصول طبی اخلاقیات سے آیا ہے: کوئی بھی تجربہ یا علاج اس وقت تک جائز نہیں جب تک مریض مکمل معلومات کے ساتھ رضامند نہ ہو۔ فیس بک کا تجربہ اس اصول کی صریح خلاف ورزی تھا۔

AI نظام ہمارے بارے میں مسلسل فیصلے کر رہے ہیں — کون سی خبر دکھائیں، کون سا اشتہار، کس شخص سے ملوائیں۔ یہ سب "جذباتی اثرانداز" ہو سکتے ہیں مگر ہم میں سے اکثر کو معلوم ہی نہیں کہ یہ ہو رہا ہے۔

فلسفے میں خودمختاری (Autonomy) کا مطلب ہے کہ آپ اپنے فیصلے آزادانہ اور باشعور انداز میں کریں۔ جب AI آپ کی جذباتی حالت جان بوجھ کر بدلے یا آپ کو ایک مخصوص رویے کی طرف دھکیلے — بغیر آپ کے علم کے — تو یہ خودمختاری کا خاتمہ ہے۔

۲۰۲۱ء میں Facebook کی سابق ملازمہ Frances Haugen نے انکشاف کیا کہ کمپنی جانتی تھی کہ Instagram نوجوان لڑکیوں میں خود اعتمادی کم کرتا ہے — مگر کچھ نہیں کیا کیونکہ Engagement بڑھتی تھی۔ یہ رضامندی اور خودمختاری دونوں کی خلاف ورزی تھی۔

وہسل بلوونگ (Whistleblowing) وہ عمل ہے جب کوئی ملازم کسی ادارے کی غیر اخلاقی، غیر قانونی، یا نقصاندہ سرگرمیوں کو عوامی سطح پر یا قانونی اداروں کے سامنے ظاہر کرے۔ AI کے تناظر میں یہ خاص طور پر اہم ہے کیونکہ تکنیکی نظاموں کی پیچیدگی اور رازداری کی وجہ سے باہر کے لوگ عموماً اندر کا معاملہ نہیں جان سکتے۔

Gebru کا کیس ظاہر کرتا ہے کہ وہسل بلوور کو بھاری قیمت چکانی پڑ سکتی ہے۔ Frances Haugen کو بھی فیس بک چھوڑنا پڑا۔ ایسے لوگوں کو اکثر "ٹیم کے لیے خطرہ" قرار دیا جاتا ہے۔

AI جوابدہی کے لیے چند ابھرتے ہوئے اداروں میں شامل ہیں: یورپی یونین کی AI Act (۲۰۲۴ء)، جو دنیا کا پہلا جامع AI قانون ہے؛ امریکی Algorithmic Accountability Act کی تجویز؛ اور سول سوسائٹی تنظیمیں جیسے Gebru کا DAIR Institute۔

مگر پاکستان سمیت بیشتر ترقی پذیر ممالک میں ابھی کوئی AI جوابدہی کا ادارہ نہیں۔ اس کا مطلب ہے کہ جب کوئی AI نظام نقصان پہنچائے تو متاثرین کے پاس عموماً کوئی قانونی چارہ نہیں۔

اخلاقی AI بنانے کے لیے چند عملی اجزاء ضروری ہیں۔ Design Justice — یعنی ڈیزائن انصاف — کا مطلب ہے کہ AI بناتے وقت متاثرہ گروہوں کو ڈیزائن ٹیم میں شامل کریں، نہ صرف بعد میں جانچ کے لیے بلائیں۔ Sasha Costanza-Chock کی ۲۰۲۰ء کی کتاب "Design Justice" نے یہ اصول واضح کیے۔

Algorithmic Impact Assessment — یعنی الگورتھمی اثر جائزہ — وہ عمل ہے جس میں AI سسٹم تعینات کرنے سے پہلے یہ دیکھا جائے کہ اس کے ممکنہ نقصانات کیا ہیں اور کن گروہوں کو متاثر کرے گا۔ کینیڈا نے یہ حکومتی AI کے لیے لازمی بنایا ہے۔

پاکستان میں AI کا استعمال تیزی سے بڑھ رہا ہے — تعلیم، صحت، زراعت، اور سیکیورٹی میں۔ مگر جوابدہی کا ڈھانچہ ابھی نہیں بنا۔ اس ماڈیول کے سبق یہ واضح کرتے ہیں کہ اخلاقیات کے سوالات کسی کے لیے بھی نظرانداز کرنا ممکن نہیں — نہ ٹیکنالوجسٹ کے لیے، نہ پالیسی ساز کے لیے، نہ عام شہری کے لیے۔

آپ — AI Foundations کے طالب علم — وہ نسل ہیں جو پاکستان میں AI کا مستقبل بنائیں گے۔ Amazon، Google، فیس بک، Uber اور COMPAS کے واقعات یاد رکھیں: جب اخلاقی سوالات کو نظرانداز کیا گیا تو حقیقی لوگوں کو حقیقی نقصان پہنچا۔ اگلی بار وہ نظام شاید آپ بنائیں گے — اور انتخاب آپ کا ہوگا۔