Etik Nedir?
Ahlaki çerçeveler soyut kavramlar değildir — milyonlarca insanın hayatını etkileyen gerçek tasarım kararlarını şekillendirir.
Bir sistemin "doğru" davranışına kim karar verir ve bu karar neye dayanır?
2018 yılında Amazon, özgeçmiş tarama amacıyla geliştirdiği AI sistemini kullanımdan kaldırdı. Sistem, 2004–2014 yılları arasındaki işe alım verilerini kullanarak eğitilmişti; bu veriler ağırlıklı olarak erkek çalışanlara aitti. Sonuç olarak sistem, kadın adayları sistematik biçimde puanından düşürüyordu: "kadın satranç takımı" gibi ifadeler içeren özgeçmişler otomatik olarak olumsuz değerlendiriliyordu. Mühendisler sorunu fark edip düzeltmeye çalıştı; ancak sistem hâlâ öngörülemeyen yollarla önyargı üretebiliyordu. Amazon projeyi tamamen iptal etti. Hiçbir ahlaki niyeti olmayan bir algoritmik sistem, somut ve belgelenmiş bir ayrımcılık yarattı.
Etik: Tanım ve Kapsam
Etik; neyin doğru, neyin yanlış olduğunu, kimin zarar gördüğünü ve bu zararı kimin önemsemesi gerektiğini araştıran felsefi bir disiplindir. AI sistemleri söz konusu olduğunda etik, mühendislik kararlarının içine sızar: hangi verinin toplanacağı, hangi metriğin optimize edileceği, kimin geri bildiriminin sistemi şekillendireceği gibi her teknik tercih aynı zamanda bir etik tercihtir.
Batı felsefesinde üç ana etik çerçeve öne çıkar. Sonuçsalcılık (consequentialism), eylemlerin ahlaki değerini yarattıkları sonuçlara göre ölçer; Jeremy Bentham ve John Stuart Mill'in geliştirdiği faydacılık bu yaklaşımın en bilinen biçimidir. Deontoloji, Immanuel Kant'ın kategorik imperatifinde somutlaşır: bir eylem, yalnızca herkesin aynı şekilde yapmasını isteyebileceğimiz durumlarda ahlaken doğrudur. Erdem etiği ise Aristoteles'e dayanır ve asıl soruyu "ne yapmalıyım?" yerine "nasıl bir insan olmalıyım?" biçiminde sorar.
AI Etiğini Farklı Kılan Nedir?
Geleneksel etik analizleri, kararı veren öznenin kim olduğunu açıkça bilir. AI sistemlerinde bu özne dağılır: veri toplayanlar, modeli eğitenler, sistemi dağıtanlar, sonuçlardan etkilenenler farklı gruplar oluşturur. Amazon vakasında sistemi "tasarlayan" kimse ayrımcılık yaratmak istemedi; mühendisler iyi niyetliydi. Yine de zarar gerçekleşti.
Bu durum, AI etiğini salt kural koymaktan ibaret görmemenin neden gerektiğini ortaya koyar. Etik, tasarım sürecinin her aşamasında sorulması gereken aktif sorular bütünüdür: Bu sistem kimin için çalışıyor? Kimi dışarıda bırakıyor? Hata yaptığında bedeli kim ödüyor?
Algoritmik önyargı (algorithmic bias): Bir AI sisteminin, belirli gruplara karşı sistematik ve adaletsiz farklılıklar üretmesi. Bu önyargı çoğunlukla eğitim verisinden kaynaklanır; ancak metrik seçimi, değerlendirme yöntemi ve dağıtım bağlamı da belirleyicidir.
Üç Çerçevenin AI'ya Uygulanması
Amazon vakasını üç çerçeveden değerlendirelim. Sonuçsalcı bir analist şunu sorar: "Bu sistemin kullanımı genel istihdamı artırdı mı, yoksa azalttı mı? Toplamda daha fazla kişiye mi yoksa daha azına mı zarar verdi?" Deontolojik analist farklı bir soru sorar: "Bir aday, özgeçmişindeki bir dernek üyeliği nedeniyle otomatik olarak elenmeyi hak eder mi? Bu işlemi evrensel bir kural olarak kabul edebilir miyiz?" Erdem etiği perspektifinden ise şu sorulur: "Sistemi geliştiren mühendisler, adalet erdemine sahip birer profesyonel olarak bu sonuçları görmezden gelebilir miydi?"
Her üç çerçeve de farklı soruları ön plana çıkarır. Bu nedenle AI etiğinde tek bir teoriye bağlı kalmak yerine, çerçeveleri araç gibi kullanmak ve birbirini tamamlayan sorular sormak daha sağlıklı bir yaklaşım olarak önerilmektedir.
Ders 1 Testi
Etik çerçeveler ve Amazon vakasına ilişkin anlayışınızı ölçün.
Lab 1: Etik Çerçeveleri Uygulama
Gerçek bir AI vakasını üç farklı etik çerçeveden analiz edin.
Görev: Çerçeve Analizi
Bu labda, Amazon'un özgeçmiş tarama sistemi gibi gerçek AI vakalarını farklı etik çerçeveler aracılığıyla inceleme pratiği yapacaksınız. AI asistanı sizi bu sürece rehberlik edecek ve analitik düşüncenizi derinleştirmek için sorular soracaktır.
- AI asistanının açılış sorusunu dikkatlice okuyun.
- Sonuçsalcı, deontolojik ve erdem etiği perspektiflerini nasıl uygulayacağınızı düşünün.
- Yanıtlarınızı en az 2–3 cümleyle gerekçelendirin.
Kim Karar Verir?
AI sistemlerinin tasarım kararları hiçbir zaman nötr değildir — bu kararlar, belirli çıkarların ve güç ilişkilerinin yansımasıdır.
Bir AI sistemini kimin tasarladığı, sistemin kimi gözettiğini nasıl belirler?
2019 yılında ABD'li sağlık şirketi Optum tarafından geliştirilen bir AI algoritması, yaklaşık 200 milyon insanın bakım yönetimi kararlarını etkiliyordu. Science dergisinde yayımlanan bir araştırma, algoritmanın Siyahi hastalara Beyaz hastalarla aynı düzeyde bakım ihtiyacı olmasına karşın onları sistematik biçimde daha az riskli olarak sınıflandırdığını ortaya koydu. Temel sorun, algoritmanın "sağlık ihtiyacı" göstergesi olarak sağlık harcamalarını kullanmasıydı. Ancak Siyahi hastalar, tarihsel eşitsizlikler nedeniyle aynı sağlık durumunda daha az harcama yaptığından, algoritma bu eşitsizliği "düşük ihtiyaç" olarak yorumladı. Sistemi tasarlayanlar harcama verisini teknik bir kolaylık olarak seçmişti; bu seçim aynı zamanda kimin ihtiyacının ölçülmeye değer olduğuna dair örtük bir karar içeriyordu.
Teknik Tercihler Siyasi Tercihlerdir
Bir AI sisteminde hangi verinin kullanılacağı, hangi metriğin optimize edileceği ve hangi grubun performans değerlendirmesine dahil edileceği gibi kararlar teknik görünür; oysa bunların tamamı değer yargılarını içerir. Optum vakasında "harcama" metriği teknik bir kolaylık olarak seçildi; ancak bu seçim, sistematik olarak dezavantajlı gruplardaki gerçek ihtiyacı görünmez kıldı.
Sosyolog Ruha Benjamin bu meseleyi "Yeni Jim Code" (New Jim Code) kavramıyla tanımlar: ırksal ayrımcılığın teknik altyapı içinde yeniden üretilmesi. Teknik kararların arkasında her zaman bir "tasarım söylemi" (design discourse) bulunur — belirli bir problemi belirli bir şekilde çerçeveleyen, belirli çözümleri görünür kılan, diğerlerini ise arka plana iten bir düşünce kalıbı.
Paydaş Analizi: Kim Masada, Kim Dışarıda?
AI etiğinde "paydaş analizi" (stakeholder analysis), sistemden kimin etkilendiğini ve kimin bu etki üzerinde söz hakkı olduğunu haritalandırır. Optum vakasında sistemi tasarlayan mühendisler, kararlarını onaylayan yöneticiler, ürünü satan satış ekipleri ve nihayetinde hastane yönetimi masadaydı. Siyahi hastalar — sistematik biçimde dezavantajlı konuma düşürülenler — hiçbir aşamada dahil edilmedi.
Tasarım kararlarını verenler ile bu kararlardan etkilenenler arasındaki güç farkı, AI sistemlerindeki yapısal bir adaletsizlik kaynağıdır. Buna karşı geliştirilen "katılımcı tasarım" (participatory design) yaklaşımı, etkilenen toplulukları geliştirme sürecine dahil etmeyi önerir.
Kurumsal Yapılar ve Teşvik Mekanizmaları
Bireysel mühendisler çoğu zaman iyi niyetlidir; ancak içinde çalıştıkları kurumsal yapılar farklı teşvikler yaratır. Hız, maliyet ve ölçeklenebilirlik öncelikleri; kapsamlı etik değerlendirmenin önüne geçebilir. "Hızlı hareket et ve kır" (move fast and break things) ilkesinin hâkim olduğu teknoloji şirketlerinde, "kim zarar görüyor?" sorusu ürün çıkarma döngüsüne sığmayabilir.
Bu yapısal sorunlara karşı önerilen mekanizmalar arasında etik değerlendirme kurulları, bağımsız denetim, zorunlu etki değerlendirmesi (algorithmic impact assessment) ve çeşitli ekip yapıları yer alır. Ancak bu mekanizmaların etkinliği, kurumsal güç dağılımından bağımsız değildir.
Ders 2 Testi
Tasarım kararları, güç ilişkileri ve paydaş analizi konularını sınayın.
Lab 2: Tasarım Kararlarını Sorgulamak
Bir AI sistemindeki kritik tasarım tercihlerini analiz edin.
Görev: Paydaş ve Güç Analizi
Bu labda, gerçek bir AI sistemi tasarım kararını inceleyecek ve "kim karar verdi, kim etkilendi?" sorusunu sistematik biçimde yanıtlayacaksınız.
- AI asistanının soru veya senaryosunu dikkatle okuyun.
- Tasarım kararındaki örtük değer yargılarını tanımlamaya çalışın.
- Hangi grupların dahil edildiğini ve hangilerinin dışarıda bırakıldığını değerlendirin.
Gerçek Zarar, Gerçek İnsanlar
AI sistemlerinin yarattığı zarar, somut bireyler ve topluluklar üzerinde ölçülebilir, belgelenebilir sonuçlar doğurur.
Bir AI sistemi zarar verdiğinde, bu zararın "gerçek" olduğuna nasıl karar veririz?
Hollanda'da 2013–2021 yılları arasında Vergi İdaresi (Belastingdienst), çocuk yardımı dolandırıcılığını tespit etmek amacıyla bir risk değerlendirme algoritması kullandı. Algoritma, belirli özellikleri — özellikle çifte uyrukluluğu ve düşük geliri — "yüksek risk" göstergesi olarak işaretledi. Sonuç olarak yaklaşık 26.000 aile, geri ödemek zorunda kaldıkları büyük miktarda yardım parası için haksız biçimde hedef alındı. Pek çok aile borçlanmak, ev satmak veya parçalanmak zorunda kaldı. Hollanda Başbakanı Mark Rutte Ocak 2021'de özür dileyerek istifa etti ve tüm hükümet düştü. Parlamento, bu olayı "temel hak ihlali" olarak nitelendirdi. Söz konusu zarar; etnik profilleme, özgürlük kaybı ve aile parçalanması biçiminde belgelendi.
Zararın Tipolojisi
AI sistemlerinin yarattığı zararlar birkaç temel kategoride sınıflandırılabilir. Tahsis zararı (allocative harm), kaynakların veya fırsatların adaletsiz dağıtılmasıdır: Hollanda vakasında yardım kesintileri bu kategoriye girer. Temsil zararı (representational harm), belirli grupların olumsuz biçimde stereotiplenmesi veya görünmez kılınmasıdır. Kalite hizmeti zararı (quality-of-service harm), sisteme erişim olsa bile hizmetin bazı gruplar için diğerlerine kıyasla daha düşük kalitede sunulmasıdır. Tarihsel zarar yeniden üretimi ise mevcut sosyal eşitsizliklerin algoritmalar aracılığıyla sürdürülmesidir.
Bu sınıflandırmayı akademik literatüre kazandıran çalışmalardan biri, Kate Crawford ve Trevor Paglen'ın 2019 tarihli "Excavating AI" araştırmasıdır. Yüz tanıma veri setlerindeki sistematik temsil sorunlarını belgeleyerek bu kategorileri ampirik verilerle desteklemişlerdir.
Görünmez Zarar Problemi
AI zararlarının büyük bölümü uzun süre görünmez kalır. Hollanda vakasında sistem 2013'te devreye girdi; ancak sistematik sorun 2019'a kadar kamuoyuna tam olarak yansımadı. Altı yıl boyunca binlerce aile zarar gördü. Bu gecikmenin birkaç yapısal nedeni vardır: etkilenenler genellikle sisteme itiraz edecek hukuki bilgi ve kaynaklara sahip değildir; kararlar "algoritmanın önerisi" olarak sunulduğunda bireyler neye itiraz edeceğini bilemez; ve zararın dağınık olması — her biri ayrı ayrı yaşayan binlerce kişi — kolektif görünürlüğü engeller.
AI Şimdi Enstitüsü (AI Now Institute) ve Algorithmik Adalet Ligi (Algorithmic Justice League) gibi kuruluşlar, AI zararlarını sistematik biçimde belgeleyerek görünür kılmayı amaçlar. Belgeleme, hesap verebilirliğin ön koşuludur.
Zarar ve Niyet Arasındaki Mesafe
Hollanda vakasındaki yetkililerin büyük çoğunluğu dolandırıcılığı önleme niyetiyle hareket etti. Bu niyet, oluşan zararı ortadan kaldırmaz. Hukuk felsefesinde "iyi niyet" savunması, sözleşme hukukunda sınırlı geçerliliğe sahiptir; insan hakları hukukunda ise "etki", "niyet" kadar — hatta çoğunlukla daha fazla — belirleyicidir. AI etiği de bu ayrımı benimser: bir sistemin tasarımcılarının iyi niyetli olması, sistematik zarar üretmesinin etik açıdan kabul edilebilir olduğu anlamına gelmez.
Ders 3 Testi
Zarar türleri, görünmez zarar ve niyet-etki ayrımı konularını sınayın.
Lab 3: Zararı Haritalandırmak
Belgelenmiş bir AI vakasındaki zarar türlerini sistematik biçimde tanımlayın.
Görev: Zarar Analizi
Bu labda, gerçek bir AI vakasındaki zarar türlerini analiz edecek ve zararın görünmez kalmasını mümkün kılan yapısal faktörleri tanımlayacaksınız.
- AI asistanının sunduğu vakayı veya soruyu dikkatle okuyun.
- Tahsis, temsil, kalite hizmeti veya tarihsel yeniden üretim kategorilerini uygulayın.
- Zararın neden uzun süre görünmez kaldığını açıklamaya çalışın.
Tramvay Problemi, AI Versiyonu
Otonom sistemler gerçek zamanlı hayat-ölüm kararları vermek zorunda kaldığında, hangi etik çerçeve geçerlidir?
Bir makine kimin hayatını kurtaracağına nasıl karar vermelidir?
2018 yılında Tempe, Arizona'da Uber'in otonom aracı Elaine Herzberg'i hayatını kaybettiren ilk ölümlü otonom araç kazasına neden oldu. Ulusal Ulaşım Güvenliği Kurulu (NTSB) soruşturması, sistemin Herzberg'i önce "tanımlanamayan nesne", sonra "araç", ardından "bisiklet" olarak sınıflandırdığını ortaya koydu — bunlar arasında geçişler kaza öncesi 1,3 saniyede gerçekleşti. Sistem engeli tespit ettiğinde frenleme için yeterli süre kalmamıştı. NTSB, Uber'in güvenlik kültürünü yetersiz buldu; özellikle sistemin acil fren fonksiyonunun devre dışı bırakılmış olması, "hatalı pozitif" sayısını azaltmak amacıyla yapılmıştı. Bir güvenlik metriği iyileştirilirken başka bir güvenlik metriği feda edilmişti.
Otonom Sistemlerde Değer Karmaşası
MIT'nin "Ahlaki Makine" (Moral Machine) projesi 2016–2020 yılları arasında 233 ülkeden 40 milyonun üzerinde katılımcıdan veri topladı. Proje, otonom araçların çeşitli kaza senaryolarında nasıl karar vermesi gerektiğine dair tercihleri ölçtü. Bulgular çarpıcıydı: genç insanlar yaşlılara, yayalar sürücülere, kadınlar erkeklere tercih edildi — ancak bu tercihler kültürden kültüre anlamlı ölçüde farklılaştı. Batı Avrupa katılımcıları ile Doğu Asya katılımcıları arasında "bireysel can" ile "topluluğun çoğunluğu" arasındaki seçimlerde ciddi farklılıklar gözlemlendi.
Bu bulgular kritik bir soruyu gündeme getirir: Küresel ölçekte dağıtılan bir otonom sistem, hangi kültürün değer hiyerarşisini kodlamalıdır? Bu karar kimin tarafından, hangi demokratik meşruiyet çerçevesinde alınacaktır?
Tasarım Kararı Olarak Etik Kodlama
Uber vakasında acil frenlemenin devre dışı bırakılması, "hatalı pozitif" (false positive) sayısını azaltmak amacıyla yapılmıştı. Bu teknik bir tercih değildi; bir değer hiyerarşisiydi: sürücü konforu ve yolculuk akışkanlığı, ani duruş gereklilikleri karşısında önceliklendirildi. Elaine Herzberg bu değer hiyerarşisinin kurbanı oldu.
Değer hizalama (value alignment): İnsan değerleri ve tercihlerinin AI sisteminin davranışına doğru biçimde yansıtılması problemi. Otonom araçlarda bu problem hem teknik (sensör performansı, karar ağırlıkları) hem de etik (kimin çıkarı öncelidir?) boyutlar taşır.
Tramvay Problemi'nin Sınırları
Tramvay problemi, felsefi düşünce deneyleri için yararlıdır; ancak gerçek otonom sistem etiğine doğrudan çevrilemez. Gerçek kaza senaryolarında sistem büyük olasılıkla tarafları net biçimde tanımlayamaz, kararlar milisaniyeler içinde alınır ve öngörülemeyen değişkenler belirleyicidir. Bu nedenle birçok etikçi, otonom sistemlerde "senaryo etiği" yerine "tasarım etiği"nin ön plana alınması gerektiğini savunur: sistemi hangi koşullarda devreye almak, hangi ortamlarda hangi hız limitlerini uygulamak, sensör güvenilirliği yeterince test edilmeden ürünü piyasaya sürmemek gibi kararlar, tramvay seçiminden çok önce alınır.
Ders 4 Testi
Otonom sistemler, değer hizalama ve tasarım etiği konularını sınayın.
Lab 4: Değer Hizalama Analizi
Otonom sistem tasarımındaki örtük değer hiyerarşilerini keşfedin.
Görev: Tasarım Kararlarının Etik Analizi
Bu labda, otonom araç veya benzer otonom sistem tasarımlarındaki değer hiyerarşilerini tartışacaksınız. AI asistanı sizi gerçek mühendislik kararlarının etik boyutlarını sorgulamaya yönlendirecektir.
- AI asistanının açılış sorusunu okuyun ve hangi değer tercihinin söz konusu olduğunu tanımlamaya çalışın.
- Aynı tasarım kararını farklı etik çerçevelerden değerlendirin.
- "Bu karar kimin için ve kim tarafından alındı?" sorusunu yanıtlayın.
Adalet Basit Değildir
Algoritmik adalet, birbiriyle çelişen matematiksel tanımlar içerir — ve bu çelişki, teknik bir hata değil, temel bir felsefi gerilimidir.
Bir algoritma eşit sonuçlar üretirken aynı anda adil olmayabilir mi?
2016 yılında ProPublica, ABD mahkemelerinde kullanılan COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) risk değerlendirme algoritmasını inceledi. Araştırma, algoritmanın Siyahi sanıkları Beyaz saniklarla karşılaştırıldığında yaklaşık iki kat daha fazla "yanlış yüksek riskli" (false positive) olarak sınıflandırdığını ortaya koydu. Algoritmanın geliştirici şirketi Northpointe ise algoritmayı farklı bir ölçüte göre savundu: Her iki grupta da "yüksek riskli" olarak etiketlenenlerin yeniden suç işleme oranları yaklaşık olarak eşitti. Her iki taraf da haklıydı — farklı adalet tanımlarını kullanıyorlardı. Bu durum matematiksel olarak imkânsızlık teoremiyle desteklendi: belirli koşullar altında, tüm adalet tanımlarının aynı anda karşılanması mümkün değildir.
Adalet Tanımları ve Matematiksel Çelişki
Algoritmik adalet literatüründe en sık tartışılan üç tanım şunlardır. Demografik eşitlik (demographic parity): Algoritmanın her grup için aynı oranda olumlu karar vermesi. Eşit yanlış pozitif oranı: Suç işlemeyenler arasında, farklı demografik grupların eşit oranda "yüksek riskli" etiketlenmesi. Kalibrasyon: Aynı risk puanının, farklı demografik gruplar için aynı gerçek suç işleme olasılığına karşılık gelmesi.
2016 yılında araştırmacılar Jon Kleinberg, Sendhil Mullainathan ve Manish Raghavan matematiksel olarak kanıtladı: temel taban oranları (base rates) gruplar arasında farklılaştığında, bu üç tanımın tamamını aynı anda karşılamak imkânsızdır. Bu "imkânsızlık teoremi", adalet sorununu teknik bir optimizasyon problemi olmaktan çıkarır ve onu temel bir etik seçim olarak konumlandırır.
COMPAS Vakasının Etik Boyutu
COMPAS tartışmasında her iki taraf istatistiksel olarak doğruydu. ProPublica, eşit yanlış pozitif oranını esas alıyordu: yeniden suç işlemeyen Siyahi sanıklar, Beyaz sanıklara kıyasla iki kat daha fazla "yüksek riskli" etiketlendi. Northpointe kalibrasyon ölçütünü kullanıyordu: "yüksek riskli" etiketi, her iki grup için de yaklaşık aynı doğrulukla suç işlemeyi öngörüyordu.
Bu iki ölçüt arasındaki seçim matematiksel değil, değer temelli bir seçimdir. Soru şudur: "Yanlış etiketlemenin maliyetini kim öder?" Özgürlüğünü kaybeden masum biri mi, yoksa önlenemeyen bir suçun mağduru mu? Bu soruya farklı etik çerçeveler farklı yanıtlar verir.
Yapısal Eşitsizlik ve Taban Oranı Sorunu
İmkânsızlık teoreminin ön koşulu, gruplar arasındaki farklı taban oranlarıdır. ABD'de tarihsel olarak Siyahi toplulukların, ırksal olarak ayrımcı olan ceza adalet sistemi tarafından orantısız biçimde cezalandırıldığı iyi belgelenmiştir. Bu verilerle eğitilen bir algoritma, tarihsel adaletsizliği gelecek tahminlerine gömülü biçimde taşır. Bu sorun "tarihsel verinin kirlenmiş oluşu" (contaminated historical data) olarak adlandırılır ve basit bir teknik düzeltmeyle çözülemez: sorun veri temizliği değil, yapısal eşitsizliğin algoritmik sistemlere yansımasının siyasi olarak ele alınmasını gerektirir.
Ders 5 Testi
Algoritmik adalet tanımları, imkânsızlık teoremi ve COMPAS vakasını sınayın.
Lab 5: Adalet Tanımlarını Karşılaştırmak
Birbiriyle çelişen adalet ölçütleri arasında değer temelli seçimler yapın.
Görev: Adalet Ölçütü Analizi
Bu labda, bir risk değerlendirme senaryosunda farklı adalet tanımlarını uygulayacak ve bunlar arasındaki çelişkileri analiz edeceksiniz.
- AI asistanının sunduğu senaryoyu okuyun.
- Demografik eşitlik, eşit yanlış pozitif oranı ve kalibrasyon ölçütlerini uygulamaya çalışın.
- Bu ölçütlerin neden aynı anda karşılanamayabileceğini açıklayın.
Rıza, Özerklik ve AI
AI sistemleri, rızanın anlamlı olduğu koşulları ortadan kaldırabilir — ve bu durum, özerkliği kökten tehdit eder.
Bir kullanıcı gerçek anlamda rıza verebilmek için neyi bilmek zorundadır?
2014 yılında Facebook, 689.003 kullanıcının onayı olmaksızın haber akışı içeriklerini manipüle ederek bir "duygusal bulaşma" (emotional contagion) deneyi yürüttü. Bazı kullanıcılara daha fazla olumsuz içerik, bazılarına daha fazla olumlu içerik gösterildi ve kullanıcıların sonraki paylaşımları analiz edildi. Çalışma, Proceedings of the National Academy of Sciences dergisinde yayımlandı. Tepkiler sert oldu: İngiltere Veri Koruma İdaresi (ICO) soruşturma başlattı. Facebook'un savunması, kullanıcıların platform hizmet şartlarını kabul ederek araştırmaya zımni rıza vermiş olduğuydu. Hizmet şartlarında "veri analizi, araştırma ve hizmet geliştirme" ifadesi geçiyordu. Bu ifadenin, duygu durumunu manipüle eden bir psikoloji deneyini kapsayıp kapsamadığı tartışmaya açıktı.
Anlamlı Rıza Nedir?
Tıp etiğinde "aydınlatılmış onam" (informed consent) kavramı, rızanın geçerli sayılabilmesi için dört koşul öngörür: bilgi (ne yapılacağının açıklanması), anlama (bu bilginin kavranabilmesi), gönüllülük (zorlamanın yokluğu) ve kapasite (karar verebilme yetkinliği). Facebook vakasında bu koşulların hiçbiri eksiksiz karşılanmamıştı: kullanıcılar duygusal bir deneye katıldıklarını bilmiyordu, hizmet şartları bu eylemi kapsayan bir dil içeriyordu ancak bunu anlamalarını sağlayacak biçimde sunulmamıştı ve platforma bağımlılık gerçek anlamda "gönüllülük" için gerekli olan alternatifin varlığını sorgulatıyordu.
Yüzlerce sayfalık hizmet şartlarını kabul etmek, belirli bir eyleme gerçek anlamda rıza vermek değildir. Avrupa İnsan Hakları Mahkemesi ve GDPR (Genel Veri Koruma Yönetmeliği), rızanın "özgür, belirli, aydınlatılmış ve açık" olması gerektiğini öngörür.
Özerklik ve Manipülasyon
Özerklik, bireyin kendi değerleri ve aklı doğrultusunda karar vermesi anlamına gelir. AI sistemleri bu süreçte iki biçimde araya girebilir. Manipülasyon: bireyin duygusal veya bilişsel süreçlerini onun bilgisi ve rızası dışında etkilemek. Facebook vakasında duygu durumunu manipüle etmek bu kategoriye girer. Nudging (dürtme): davranışı kasıtlı olarak belirli bir yönde etkilemek — bu her zaman manipülasyon sayılmaz, ancak şeffaflık yoksa etik sınırı aşabilir.
Cambridge Analytica skandalı (2018) bu sorunun siyasal boyutunu gözler önüne serdi: 87 milyon Facebook kullanıcısının verileri, seçmen davranışını etkilemeye yönelik psikografik profilleme için kullanıldı. Kullanıcılar ne verilerinin bu amaçla işlendiğini ne de buna dayalı mikro-hedefli siyasal reklamlara maruz kaldıklarını biliyordu.
Özerkliği Koruma Mekanizmaları
GDPR, 2018'de yürürlüğe girerek Avrupa'daki veri işleme pratiklerini köklü biçimde değiştirdi. Rızanın belirli ve geri alınabilir olması zorunlu kılındı. "Açıklama yükümlülüğü" (right to explanation) AB yapay zeka yasasında da yer aldı: bireyler, kendilerini etkileyen otomatik kararlar hakkında anlaşılabilir bir açıklama talep edebilir. Ancak bu mekanizmaların etkinliği, uygulama kapasitesi ve kullanıcıların haklarını takip edebilmesiyle doğrudan ilişkilidir.
Ders 6 Testi
Rıza koşulları, özerklik ve veri koruma mekanizmalarını sınayın.
Lab 6: Rıza ve Özerklik Analizi
Gerçek platformlardaki veri uygulamalarını rıza ve özerklik çerçevesiyle değerlendirin.
Görev: Rıza Koşullarını Sorgulama
Bu labda, bir dijital platforma ait veri kullanım senaryosunu analiz edecek ve kullanıcı rızasının gerçekten anlamlı olup olmadığını değerlendireceksiniz.
- AI asistanının açılış sorusunu okuyun.
- Verilen senaryoda "özgür, belirli, aydınlatılmış ve açık" rıza koşullarını arayın.
- Özerkliğin hangi mekanizma ile kısıtlandığını tanımlamaya çalışın.
İhbar ve Hesap Verebilirlik
AI sistemlerindeki etik ihlaller çoğunlukla iç kaynaklardan açığa çıkar — ancak bu gerçeği dile getirenlerin ödediği bedel ağırdır.
Bir çalışan işvereninin yanlış yaptığını bildiğinde ne yapmalıdır?
Timnit Gebru, Aralık 2020'de Google'ın AI araştırmacısı olarak işten çıkarıldı ya da kendi ifadesiyle "istifaya zorlandı." Gebru, büyük dil modellerinin çevresel maliyeti ve olası zararlarını eleştiren bir makale yayımlamak üzereydi; Google liderliği makalenin yayımlanmamasını istedi. Gebru bu talebi reddetti ve iç yazışmada Siyahi çalışanlara yönelik işe alım uygulamalarını eleştirdi. Kısa süre sonra işten çıkarıldı. Olayın ardından Google'dan onlarca araştırmacı dayanışma bildirisi yayımladı ve yüzlerce teknoloji çalışanı imzalayan açık mektuplar yazıldı. Dava, teknoloji şirketlerinde etik araştırma ile kurumsal çıkarlar arasındaki gerilimi tartışmaya açtı. Gebru daha sonra Etik Yapay Zeka Enstitüsü'nü (DAIR) kurdu.
İhbarcılığın Tanımı ve Koşulları
İhbarcılık (whistleblowing), bir çalışanın kendi kurumunun yasadışı, tehlikeli veya etik açıdan kabul edilemez bir uygulamasını yetkili makamlara veya kamuoyuna bildirmesidir. Felsefi olarak ihbarcılık, sadakat-doğruluk çatışmasını simgeler: kuruma olan bağlılık ile topluma olan bağlılık çeliştiğinde hangisini seçmeli?
Whistleblower'ların büyük çoğunluğu ciddi mesleki ve kişisel bedeller öder. ABD'de Edward Snowden NSA gözetim programlarını ifşa ettiğinde vatanseverlik suçlamasıyla yüz yüze geldi. Avrupa'da whistleblower koruma mevzuatı AB Direktifi 2019/1937 ile güçlendirildi; ancak teknoloji sektöründeki etik ihlaller çoğunlukla bu direktiflerin kapsama alanı dışında kalır.
Kurumsal Hesap Verebilirlik Mekanizmaları
Gebru vakası, teknoloji şirketlerinde hesap verebilirlik mekanizmalarının ne denli kırılgan olduğunu gösterdi. Şirket içi etik kurulları, teoride bağımsız gözetim sağlar; ancak pratikte bu kurullar çoğunlukla tavsiye niteliğindedir ve üyeler şirketten maaş alır. Google AI'ın etik kurulu "Advanced Technology External Advisory Council", Nisan 2019'da kurulmasından yalnızca bir hafta sonra, üyelere yönelik sivil toplum baskısı sonucunda feshedildi.
Gerçek anlamda bağımsız denetim için önerilen mekanizmalar: zorunlu algoritmik etki değerlendirmesi (algorithmic impact assessment), bağımsız denetçiler, çalışan sendikası temsili ve düzenleyici kurumların teknik kapasitesinin güçlendirilmesidir. Bunların hiçbiri şu an zorunlu ya da yaygın değildir.
Etik Araştırma Bağımsızlığı
Gebru vakasının en kritik boyutu, araştırmacının yayımlamak istediği makalenin şirket ürünlerini eleştiriyor olmasıydı. Kurumsal finansmanlı araştırmanın bağımsızlığı konusunda akademide uzun süredir süregelen bir tartışma vardır; ancak "kurum içi eleştiri" vakası bundan farklıdır. Araştırmacının kendi işvereninin ürününü eleştirmesi, güç asimetrisini belirgin biçimde artırır. "Araştırma özgürlüğü" garanti edilmeden büyük teknoloji şirketlerinde gerçek anlamda etik AI araştırması yapılmasının mümkün olup olmadığı sorusu canlılığını korumaktadır.
Ders 7 Testi
İhbarcılık, hesap verebilirlik mekanizmaları ve araştırma bağımsızlığını sınayın.
Lab 7: Hesap Verebilirlik Tasarımı
Gerçek bir teknoloji şirketinde hesap verebilirlik mekanizması tasarlayın.
Görev: Denetim Mekanizması Analizi
Bu labda, teknoloji şirketlerinde AI etiği ihlallerini tespit edecek ve engelleyecek hesap verebilirlik mekanizmalarını analiz edeceksiniz.
- AI asistanının sunduğu senaryoyu veya soruyu dikkatle okuyun.
- Mevcut mekanizmaların neden yetersiz kaldığını açıklayın.
- Daha etkili bir hesap verebilirlik yapısının nasıl tasarlanabileceğini tartışın.
Etik AI İnşa Etmek
Etik AI, iyi niyetten değil; belirli süreçler, yapılar ve hesap verebilirlik mekanizmalarından doğar.
Etik AI inşa etmek için hangi somut adımlar gereklidir?
2021 yılında ABD'li sigorta şirketi Allstate'in ticari adı belirleme algoritması, Siyahi ve Latino müşterilerin isimlerini otomatik olarak "yüksek riskli" olarak işaretliyordu. Texas Başsavcılığı soruşturma başlattı. Allstate'in yanı sıra pek çok sigorta ve kredi şirketinin adrese dayalı (proxy discrimination) ayrımcılık içerdiği ortaya çıktı: "mahalledeki okul kalitesi" veya "yakın çevredeki suç istatistikleri" gibi değişkenler, ırk değişkeni ile güçlü biçimde korelasyon gösterdiğinden, ırk verisini doğrudan kullanmaksızın ırksal ayrımcılık üretiyordu. Bu "vekil ayrımcılık" (proxy discrimination) problemi, GDPR ve ABD Adil Konut Yasası gibi yasal çerçevelerde henüz tam olarak kapsanmıyor.
Etik AI: Bir Süreç Olarak
Allstate vakası, etik AI'ın salt iyi niyetten ibaret olmadığını açıkça gösterir. Şirket, ırkı doğrudan bir değişken olarak kullanmamıştı — ancak yüksek korelasyonlu vekil değişkenler aynı sonucu üretiyordu. Etik AI inşa etmek; sistematik süreçler, yinelemeli testler ve hesap verebilirlik yapıları gerektirir.
Mevcut en kapsamlı çerçevelerden biri, AB Yapay Zeka Yasası (AI Act, 2024) tarafından belirlenen "yüksek riskli sistem" kategorisidir: istihdam, kredi, sağlık, eğitim ve hukuki kararlar gibi alanlarda kullanılan AI sistemleri, zorunlu risk değerlendirmesi ve şeffaflık yükümlülüklerine tabidir.
Risk tabanlı düzenleme: AB AI Yasası, tüm AI sistemlerini "kabul edilemez risk", "yüksek risk", "sınırlı risk" ve "minimum risk" olmak üzere dört kategoride sınıflandırır ve yüksek riskli sistemlere kapsamlı yükümlülükler getirir.
Etik AI için Pratik Araçlar
Etik AI geliştirme pratiğinde kullanılan somut araçlar şunlardır:
- Model kartları (model cards): Google'ın 2019'da önerdiği, bir modelin performansını farklı alt gruplar için ayrı ayrı raporlayan standartlaştırılmış belgeler.
- Veri sayfaları (datasheets for datasets): Bir veri setinin nasıl toplandığı, kim tarafından etiketlendiği ve hangi varsayımlar altında kullanılabileceğini belgeleyen standartlar.
- Kırmızı ekip testleri (red-teaming): Bir sistemi kötüye kullanmayı amaçlayan test gruplarının sistematik biçimde zafiyetleri araması.
- Önyargı denetimleri (bias audits): Bağımsız denetçilerin, sistemi farklı demografik gruplar üzerinde test ederek ayrımcı çıktıları belgelemesi.
Düzenleyici Çerçeveler ve Sınırları
AB AI Yasası en kapsamlı yasal çerçeve olmakla birlikte, uygulama kapasitesi ve sınır ötesi yaptırım gücü konusunda ciddi sorular devam etmektedir. ABD'de federal düzeyde kapsamlı bir AI düzenlemesi henüz mevcut değildir; eyalet düzeyindeki düzenlemeler ise parçalı bir tablo ortaya koymaktadır. Türkiye'de 2023 yılı itibarıyla KVKK (Kişisel Verileri Koruma Kanunu) algoritmik karar almayı kısmen kapsamakla birlikte, AI'ya özgü kapsamlı bir düzenleme henüz yasalaşmamıştır.
Sonuç olarak etik AI ne yalnızca bireysel mühendislerin vicdanına bırakılabilir ne de yalnızca yasal uyuma indirgenebilir. Gerçek anlamda etik AI; teknik süreçler, kurumsal yapılar, düzenleyici mekanizmalar ve etkilenen toplulukların katılımını bir arada gerektiren, çok katmanlı bir taahhüttür.
Ders 8 Testi
Vekil ayrımcılık, etik AI araçları ve düzenleyici çerçeveler konularını sınayın.
Lab 8: Etik AI Tasarım Planı
Gerçek bir AI sistemini etik ilkeler çerçevesinde tasarlamayı planlayın.
Görev: Etik AI Geliştirme Süreci
Bu modülün son labında, öğrendiğiniz tüm kavramları bir araya getirerek gerçek bir AI sistemi için etik geliştirme planı oluşturacaksınız.
- AI asistanının sunduğu sistemi veya senaryoyu okuyun.
- Hangi etik risklerin mevcut olduğunu tanımlayın.
- Bu riskleri azaltmak için hangi süreçlerin, araçların ve yapıların hayata geçirilmesi gerektiğini açıklayın.
Modül 8 — Final Testi
AI Etiği ve Gerçek Kararlar modülünü tamamlayın. 15 sorudan oluşan bu testte tüm derslerin konuları yer almaktadır.