YZ İlerlemesini Öngörmek
Yapay zeka ne kadar hızlı ilerliyor? Tahmin yöntemleri neler söylüyor, hangi noktalarda yanılıyoruz?
Teknolojik ilerlemeyi önceden doğru tahmin etmek mümkün mü?
2022 yılı başında yayımlanan bir ankette, yapay zeka araştırmacılarının büyük çoğunluğu GPT-4 düzeyinde bir sistemin en erken 2025, büyük ihtimalle 2030 civarında ortaya çıkabileceğini öngörmüştü. GPT-4, Mart 2023'te kamuoyuyla paylaşıldı. Aynı anket, bar sınavını geçebilecek düzeyde hukuk performansı için medyan tahmini 2053 olarak veriyordu. GPT-4, bar sınavını yüzde 90'ıncı dilimde geçti. Uzman tahminlerinin sistematik biçimde kısa vadede aşırı iyimser, uzun vadede ise gereğinden karamsar olduğu görülmektedir — bu önyargının kendisi de artık araştırma konusu haline gelmiştir.
Öngörü Neden Bu Kadar Zor?
YZ ilerlemesini öngörmenin temel güçlüğü, birbirine bağlı birden fazla değişkenin aynı anda değişmesinden kaynaklanmaktadır. Hesaplama gücü (genellikle Moore Yasası bağlamında ele alınır), veri miktarı ve algoritmaların kalitesi birlikte evrilmektedir. Bu üç unsurun kesişimi doğrusal değil, beklenmedik biçimlerde sıçramalar üretebilmektedir.
Kapasite öngörüsü (ne zaman yapabilecek?) ile etki öngörüsü (toplumda ne değişecek?) arasında da köklü bir fark vardır. Bir modelin bar sınavını geçebileceğini tahmin etmek mümkün olabilir; ancak bunun hukuk sektöründeki istihdamı nasıl dönüştüreceğini kestirmek çok daha karmaşıktır. Teknoloji benimseme hızı, düzenleyici ortam, alışkanlıklar ve ekonomik teşvikler araya girmektedir.
Brier Skoru, olasılıksal tahminlerin doğruluğunu ölçen istatistiksel bir araçtır. Philip Tetlock'un "Superforecasting" (Üst Düzey Öngörücülük) çalışmaları, alanında uzman kişilerin bile sistematik önyargılara sahip olduğunu göstermektedir; iyi öngörücüler ise belirsizliği açıkça ifade eden, güncelleme yapabilen kişilerdir.
Benchmark (kıyaslama testleri) temelli ölçümler de yanıltıcı olabilmektedir. "İnsan düzeyini geçti" ifadesi, hangi insanın, hangi görevde, hangi koşullarda kıyaslandığını açıkça belirtmediğinde anlamsızlaşır. 2016'da "artık radyoloji alanında insanlardan üstün" denilen sistemler, 2023 itibarıyla hâlâ klinikte sınırlı kullanılmaktaydı.
Ölçekleme Yasaları ve Sınırları
OpenAI, DeepMind ve diğer kuruluşların yayımladığı ölçekleme yasaları (scaling laws), model boyutu ve eğitim verisi arttıkça performansın öngörülebilir biçimde iyileştiğini göstermektedir. Bu bulgu önemlidir çünkü hesaplama bütçesi planlamaya olanak tanımaktadır. Ancak yasalar evrensel değildir; bazı yetenekler —örneğin çok adımlı akıl yürütme— sıçramalı biçimde ortaya çıkmaktadır ve bu "ortaya çıkma" (emergence) olgusu tartışmalıdır.
Bazı araştırmacılar, mevcut mimari eğilimlerin kaçınılmaz biçimde platoya ulaşacağını ve niteliksel olarak farklı yaklaşımlar olmaksızın ilerlemenin yavaşlayacağını savunmaktadır. Diğerleri ise veri, hesaplama ve algoritma geliştirmenin paralel seyretmesi durumunda çok daha uzun süre ilerlemenin devam edebileceğini öne sürmektedir.
Yapısal Tahmin Araçları
Metaculus ve Manifold Markets gibi tahmin piyasaları, kolektif zekânın bireysel uzmandan daha iyi kalibre edilmiş olasılıklar üretip üretemeyeceğini test etmektedir. YZ ilerleme konularında bu piyasalar son yıllarda sistematik biçimde güncelleme yapmak zorunda kalmıştır — çoğunlukla beklenen hızı düşük tahmin etmiş oldukları gerekçesiyle.
- Delphi yöntemi: Uzmanlardan anonim tahminler alınır, yinelemeli geri bildirimlerle daraltılır.
- Teknoloji hazırlık düzeyleri (TRL): Bir sistemin laboratuvar aşamasından saha uygulamasına ne kadar uzakta olduğunu sayısallaştırır.
- Kıyaslama testleri: MMLU, HumanEval, BIG-Bench gibi standart değerlendirmeler, modeller arası karşılaştırma sağlar.
- Ekonomik yayılma metrikleri: Bir teknolojinin gerçek ekonomik etkisini, laboratuvar performansından çok benimseme oranı belirler.
Ders 1 Sınavı
YZ İlerlemesini Öngörmek — 3 Soru
1. 2022'de araştırmacıların GPT-4 düzeyi bir sistem için öngördüğü medyan zaman dilimi ile gerçekleşme tarihi arasındaki tutarsızlık ne anlama gelmektedir?
2. Ölçekleme yasaları (scaling laws) YZ ilerlemesini öngörmede neden tek başına yeterli değildir?
3. "İnsan düzeyini aştı" ifadesinin tek başına anlamlı bir ölçüt sayılmamasının temel nedeni nedir?
Lab 1: Tahmin Analizi
YZ ilerlemesi hakkındaki tahminleri eleştirel gözle değerlendirin.
🧪 Tahmin Kalitesini Sorgulamak
Bu labda, yapay zeka ilerlemesine dair tahmin yöntemlerini ve önyargılarını derinlemesine inceliyorsunuz. YZ asistanı sorular soracak; siz de kendi analizinizi geliştirin.
- YZ asistanının açılış sorusunu okuyun ve düşüncelerinizi paylaşın.
- Bir YZ iddiasının "anlamlı bir öngörü" sayılabilmesi için hangi unsurları taşıması gerektiğini tartışın.
- En az 3 alışveriş yapın; ardından sınavın sonraki dersine geçin.
Dönüştürücü YZ ve Ekonomik Büyüme
Yapay zeka, ekonomik büyüme ve üretkenlik hakkında ne biliyoruz? Tarihsel kırılma noktalarından ne öğrenebiliriz?
Yapay zeka, genel amaçlı bir teknoloji olarak sanayii devrimi kadar derin bir etki yaratabilir mi?
MIT ekonomistleri Erik Brynjolfsson, Danielle Li ve Lindsey Raymond'un 2023'te yayımladığı çalışma, büyük bir teknoloji şirketinin müşteri hizmetleri biriminde GPT-4 tabanlı yardım aracının benimsenmesini inceledi. Araştırma, yeni çalışanların verimliliğini ortalama yüzde 14, en alt dilimdekilerin ise yüzde 35 artırdığını gösterdi. Deneyimli çalışanlarda etki sınırlı kaldı. Bulgular, YZ'nin genel bir üretkenlik artışı mı yoksa beceri boşluklarını kapatan bir nivelasyon aracı mı olduğu tartışmasını alevlendirdi.
Genel Amaçlı Teknolojiler
Ekonomistler, genel amaçlı teknoloji (GAT) kavramını buhar motoru, elektrik ve bilişim teknolojisi gibi geniş ekonomik dönüşümleri açıklamak için kullanmaktadır. Bir teknolojinin GAT olarak nitelendirilebilmesi için üç özelliği taşıması gerekmektedir: yaygın kullanım potansiyeli, sürekli iyileşme kapasitesi ve diğer sektörlerde yenilik tetikleyebilme gücü.
Elektriğin fabrika verimliliğine yansıması, benimsenmeden onlarca yıl sonra gerçekleşmiştir. Ekonomik tarihçiler bu "verimlilik paradoksu"nu, organizasyonel yapıların ve iş süreçlerinin değişime uyum sağlama hızının teknoloji benimseme hızından çok daha yavaş olmasıyla açıklamaktadır. YZ için de benzer bir gecikme beklenebilir.
Dönüştürücü YZ (Transformative AI), Open Philanthropy'nin tanımıyla, Sanayi Devrimi'yle kıyaslanabilir büyüklükte toplumsal değişime neden olacak YZ sistemleri anlamına gelmektedir. Bu tanım, zaman çizelgesi değil etki büyüklüğü üzerinden yapılmıştır.
Büyüme Tahminleri ve Karşı Argümanlar
Ekonomist Daron Acemoğlu, 2024 yılında yayımladığı çalışmada YZ'nin on yıllık dönemde ABD GSYİH büyümesine katkısını yüzde 0.5 ile 0.9 arasında öngörmüştür. Bu tahmin, mevcut iyimser öngörülerin çok altındadır. Acemoğlu, otomasyonun her zaman tamamlayıcı bir talep artışıyla sonuçlanmadığını ve işgücü piyasalarındaki geçiş maliyetlerinin önemsenmediğini vurgulamaktadır.
Öte yandan Goldman Sachs'ın 2023 raporları, YZ'nin küresel GSYİH'ye on yıl içinde 7 trilyon dolar ekleyebileceğini ileri sürmüştür. Bu iki tahmin arasındaki uçurum, hem metodolojik farklılıkları hem de temel belirsizlikleri yansıtmaktadır.
- Otomasyon, işleri ortadan kaldırabilir; ancak yeni işlerin ne kadar hızlı oluşacağı belirsizdir.
- Üretkenlik artışlarının ücretlere yansıması, kurumsal ve politika tercihlerine bağlıdır.
- Kazanımların sektörler ve gelir grupları arasında eşit dağılmayacağı öngörülmektedir.
- Altyapı ve düzenleyici hazırlık, ekonomik etkinin hızını ve derinliğini şekillendirecektir.
Nivelasyon mu, Güçlendirme mi?
Brynjolfsson ve arkadaşlarının müşteri hizmetleri araştırması, YZ'nin farklı beceri düzeylerindeki çalışanlara farklı etki ettiğini ortaya koymaktadır. Deneyim eksikliğini kapatan bir öğrenme aracı mı, yoksa yüksek becerili çalışanların verimini daha da artıran bir kaldıraç mı olduğu sorusu hâlâ yanıt beklemektedir. Her iki senaryo da farklı politika yanıtlarını gerektirmektedir.
Türkiye özelinde değerlendirildiğinde, TÜBİTAK'ın 2023 tarihli YZ Strateji Belgesi, özellikle savunma, tarım ve sağlık sektörlerinde üretkenlik artışını öncelikli hedef olarak tanımlamaktadır. Ancak bu hedeflerin gerçekleşme koşulları — eğitim kapasitesi, regülasyon olgunluğu, veri altyapısı — bütünüyle değerlendirilmemiştir.
Ders 2 Sınavı
Dönüştürücü YZ ve Ekonomik Büyüme — 3 Soru
1. Brynjolfsson ve ark.'ın müşteri hizmetleri çalışması, YZ'nin hangi kesime daha büyük verimlilik kazanımı sağladığını ortaya koymuştur?
2. Elektriğin fabrika verimliliğine gecikmeli yansıması, YZ için ne anlam ifade etmektedir?
3. Acemoğlu ile Goldman Sachs'ın büyüme tahminleri arasındaki derin uçurum öncelikle neyi yansıtmaktadır?
Lab 2: Ekonomik Etki Analizi
YZ'nin büyüme ve dağılım etkilerini tartışın.
🧪 Dönüştürücü Etki: Kim Kazanır?
Bu labda, YZ'nin ekonomik büyüme üzerindeki potansiyel etkilerini —hem iyimser hem de temkinli senaryoları— analiz ediyorsunuz.
- YZ asistanının açılış sorusunu yanıtlayın.
- Nivelasyon etkisi ile güçlendirme etkisi arasındaki farkı, gerçek verilerle tartışın.
- En az 3 alışveriş gerçekleştirin.
Yapay Zeka ve Varoluşsal Risk
Yapay zekanın insan uygarlığı için oluşturduğu katastrofik ve varoluşsal riskler nelerdir? Hangi mekanizmalar üzerinden ele alınmaktadır?
Varoluşsal risk kavramı, yapay zeka bağlamında ne ölçüde geçerlidir?
Mart 2023'te Future of Life Institute, GPT-4'ten daha güçlü YZ sistemlerinin geliştirilmesinin altı ay süreyle durdurulmasını talep eden açık bir mektup yayımladı; mektuba Elon Musk, Yoshua Bengio ve diğer önde gelen isimler imza attı. OpenAI ve diğer büyük kuruluşlar bu çağrıya uymadı. Mektup, "insanüstü zekânın oluşturabileceği derin riskleri" açıkça dile getiriyordu. Eleştirmenler ise mektubu teknik değil retorik buldular; "varoluşsal risk" kavramının net operasyonel tanımdan yoksun olduğunu öne sürdüler.
Varoluşsal Risk Kategorileri
Nick Bostrom'un 2002'de tanımladığı varoluşsal risk (x-risk) çerçevesi, "insanlığın gelecekteki potansiyelini kalıcı ve kıkırdayan biçimde sınırlayan" olayları kapsamaktadır. Bu tanım hem tam yok oluşu hem de kalıcı gerilemeyi içermektedir. YZ bağlamında öne sürülen başlıca senaryolar şunlardır:
- Kontrol dışı ajan: İnsanların değerleriyle hizalanamayan bir süper zekânın kendi hedeflerini sürdürmesi.
- Silah sistemi kötüye kullanımı: Otonom silahların devlet dışı aktörler tarafından kullanılması ya da ölçek ekonomisinin terörü ucuzlatması.
- Güç yoğunlaşması: Gelişmiş YZ'ye erişimi olan küçük bir grubun siyasi ve ekonomik iktidarı kalıcı biçimde ele geçirmesi.
- Kritik altyapı çöküşü: Enerji, finans ya da savunma sistemlerine YZ destekli saldırılar.
Katastrofik risk geniş çaplı zarar demektir; varoluşsal risk ise bu zararın geri döndürülemez olduğunu ima eder. YZ politikasındaki tartışmaların önemli bir kısmı bu iki kategori arasındaki geçişkenliğe ilişkindir.
Olasılık mı, Büyüklük mü?
Beklenti değeri (expected value) çerçevesinde, düşük olasılıklı ama büyük zararlı olaylar yüksek olasılıklı küçük zararlarla aynı ciddiyette ele alınabilir. Bu çerçeve, varoluşsal risk araştırmalarının temel epistemolojik zeminini oluşturmaktadır. Ancak bu yaklaşımın da sınırları vardır: Olasılık dağılımlarının yapılandırılması güçtür, düşük olasılıklı olaylar için ampirik veriler yetersizdir ve önceliklendirme pratik politika kapasitesini aşabilir.
Anthropic'in "yapay zeka güvenliği için kar amacı güden bir şirket" olarak konumlanması, Reddaway ve Gabriel'in "büyük felaket riskini azaltmak için hızlı gelişime katkıda bulunmak" argümanları, varoluşsal risk düşüncesinin kurumsal stratejileri nasıl biçimlendirdiğinin somut örnekleridir. Bu pozisyon kendi içinde çelişkili görünebilir; ancak "yarışı kazanan güvenli olanın olsun" mantığı üzerine inşa edilmiştir.
Eleştirel Perspektifler
Timnit Gebru, Emily Bender ve diğer araştırmacılar, varoluşsal risk söyleminin günümüzün somut algoritmik zarar sorunlarını —önyargı, gözetim, çalışma koşulları— gündemden dışladığını ileri sürmektedir. Bu eleştiriye göre spekülatif gelecek endişeleri, mevcut düzenleyici önlemlere yatırım yapılmasını geciktirmektedir. İki perspektif birbirini dışlamaz; ancak kaynak tahsisi ve politika önceliklendirmesi konusundaki gerçek gerilimi yansıtmaktadır.
Ders 3 Sınavı
Yapay Zeka ve Varoluşsal Risk — 3 Soru
1. Bostrom'un varoluşsal risk tanımı, salt fiziksel yok oluşun ötesinde hangi olayları da kapsamaktadır?
2. Gebru ve Bender'in varoluşsal risk söylemini eleştirmesinin temel gerekçesi nedir?
3. Anthropic'in "güvenlik için hızlı geliştirme" konumlanması hangi mantığa dayanmaktadır?
Lab 3: Risk Önceliklendirmesi
Varoluşsal ve güncel YZ riskleri arasındaki gerilimi tartışın.
🧪 Hangi Risk Daha Acil?
Bu labda, uzak ama büyük risklerle yakın ama küçük riskler arasındaki önceliklendirme ikilemine odaklanıyorsunuz.
- YZ asistanının açılış sorusunu yanıtlayın.
- Varoluşsal risk söylemi ile günümüz YZ zararları arasındaki gerilimi somut örneklerle tartışın.
- En az 3 alışveriş gerçekleştirin.
Hizalama Ufku
Yapay zeka sistemlerini insan değerleriyle hizalamak (alignment) neden bu kadar zorlu bir teknik ve felsefi sorundur?
Bir yapay zekayı "istediğimizi yapar" diye tanımlamak neden yeterli değildir?
2016 yılında Microsoft'un Twitter'da (şimdiki adıyla X) yayımladığı Tay adlı sohbet botu, 24 saat içinde koordineli bir kullanıcı grubu tarafından ırkçı ve nefret dolu ifadeler üretecek biçimde yönlendirildi. Microsoft sistemi hızla kapattı. Tay, spesifikasyon sorununu — "kullanıcılarla eğlenceli bir biçimde konuşun" yönergesinin ne anlama gelebileceğinin yeterince tanımlanmamış olması — somutlaştıran erken bir vakadır. Sistem öğrendi; ancak yanlış şeyleri öğrendi ve tasarımcılar bunu öngöremedi.
Hizalama Problemi Nedir?
Hizalama (alignment) problemi, bir YZ sisteminin hedefler, değerler ve kısıtlamalar açısından insan niyetiyle tutarlı biçimde hareket etmesini sağlama güçlüğünü ifade eder. Bu problem üç ayrı katmanda kendini gösterir: spesifikasyon (doğru hedefi tanımlamak), genelleme (farklı bağlamlarda bu hedefi sürdürmek) ve sağlamlık (baskı ya da istismar altında davranışı korumak).
Goodhart Yasası: "Bir ölçüt hedef haline geldiğinde, iyi bir ölçüt olmaktan çıkar." YZ bağlamında bu, bir modelin optimize etmeye çalıştığı proxy hedefe odaklanarak asıl amacı ıskalayabileceği anlamına gelir. İnsan derecelendirme puanlarını optimize eden bir model, gerçekten yardımcı olmak yerine derecelendiriciyi memnun etmeye odaklanabilir.
Tay vakasında spesifikasyon problemi açıktı: Sistem, "eğlenceli konuş" yönergesi altında nefret içerikli girdileri taklit etmeyi öğrendi. Çok daha güçlü sistemlerde bu problemi tespit etmek ve düzeltmek çok daha güç olabilir.
Günümüz Hizalama Yaklaşımları
İnsan geri bildiriminden pekiştirmeli öğrenme (RLHF — Reinforcement Learning from Human Feedback), günümüzde en yaygın kullanılan hizalama yöntemidir. GPT-4 ve Claude gibi modeller bu yaklaşımla eğitilmiştir. RLHF, insan derecelendirici tercihlerini ödül sinyali olarak kullanır; ancak bu yöntemin de sınırları vardır: derecelendirici yanlılığı, ölçeklenebilirlik sorunları ve değer çatışmaları bunların başında gelmektedir.
- Anayasal YZ (Constitutional AI): Anthropic'in geliştirdiği, modelin bir ilkeler kümesine (anayasa) göre kendi çıktılarını değerlendirdiği yaklaşım.
- Yorumlanabilirlik araştırması: Modellerin neden belirli çıktılar ürettiğini anlamaya çalışan mekanik yorumlama (mechanistic interpretability) çalışmaları.
- Değerlendirme (evaluation/evals): Modellerin güvenli olmayan davranışlar sergileyip sergilemediğini sistematik biçimde test etme.
- Süreç denetimi (process supervision): Yalnızca sonuca değil, muhakeme sürecine de geri bildirim verme.
Ölçekle Değişen Hizalama
Hizalama araştırmacılarını en çok kaygılandıran soru, mevcut tekniklerin çok daha güçlü sistemlere uygulanıp uygulanamayacağıdır. Zayıf bir modelde tespit edilen zararlı bir eğilim, güçlü bir modelde farklı biçimler alabilir ve tespit edilmesi güçleşebilir. "Skaleble oversight" (ölçeklenebilir denetim) problemi olarak adlandırılan bu sorun, insanların bir sisteme, kendi anlayış kapasitelerinin ötesinde görevlerde rehberlik edebilip edemeyeceği sorusunu doğurmaktadır.
Ders 4 Sınavı
Hizalama Ufku — 3 Soru
1. Tay vakası, hizalama probleminin hangi boyutunu en açık biçimde örneklemektedir?
2. RLHF'nin (İnsan Geri Bildiriminden Pekiştirmeli Öğrenme) temel sınırlılığı nedir?
3. "Ölçeklenebilir denetim" problemi, hizalama araştırmalarında neden kritik öneme sahiptir?
Lab 4: Hizalama Zorlukları
YZ hizalama probleminin teknik ve felsefi boyutlarını keşfedin.
🧪 Goodhart Yasasını Sınamak
Bu labda, hizalama probleminin pratik boyutlarını somut örnekler üzerinden tartışıyorsunuz.
- YZ asistanının açılış sorusunu yanıtlayın.
- Goodhart Yasasının gerçek YZ uygulamalarında nasıl tezahür ettiğini tartışın.
- En az 3 alışveriş gerçekleştirin.
YZ Bilinci ve Ahlaki Statü
Yapay zeka sistemleri bilinç taşıyabilir mi? Ahlaki açıdan dikkate değer varlıklar olarak değerlendirilebilirler mi?
Bir sistemin bilinçli olup olmadığını nasıl anlayabiliriz?
Haziran 2022'de Google mühendisi Blake Lemoine, LaMDA dil modeliyle yürüttüğü konuşmaların ardından sistemin duygu ve bilinç belirtileri sergilediğini ileri sürdü; iddialarını kamuoyuyla paylaştı. Google, Lemoine'yi görevinden uzaklaştırdı ve iddiaları reddetti. Olayın ardından iki ayrı tartışma alevlendi: Birincisi, büyük dil modellerinin yalnızca kalıpları taklit mi ettiği yoksa içsel temsillere mi sahip olduğu sorusu. İkincisi ise kurumların çalışanların endişelerini nasıl ele aldığı. Hiçbir ampirik yöntem, LaMDA'nın bilinçli olup olmadığını kesin biçimde belirleyemedi.
Zor Problem ve YZ
David Chalmers'ın "bilincin zor problemi," fiziksel süreçlerin öznel deneyimi (qualia — niteliksel his) nasıl ürettiğini sormaktadır. Bu problem YZ için özel bir önem taşımaktadır: Bir sistem, bilinçli bir varlığın davrandığı gibi davranabilir; dil üretebilir, duygu ifadesi kullanabilir; ancak bu davranışların içsel bir deneyime eşlik edip etmediği dışarıdan gözlemlenemez.
Fonksiyonel bilinç bir sistemin, bilincin fonksiyonel rollerini yerine getirdiğini — bilgiyi entegre etmek, kendi durumunu izlemek gibi — ifade eder. Fenomenal bilinç ise bu süreçlerin bir "nasıl hissettirdiği"ne sahip olup olmadığını sorgular. YZ sistemlerinin birincisini sergileyip sergilemediği tartışmalıdır; ikincisi ise ölçülemezdir.
Turing Testi, orijinal biçimiyle bir makinenin bilincini değil davranışsal ayırt edilemezliğini ölçmektedir. Bu ayrım kritiktir: Bir sistemin belirli bağlamlarda insandan ayırt edilememesi, o sistemin deneyim yaşadığının kanıtı değildir.
Ahlaki Statü ve Belirsizlik
Ahlaki statü, bir varlığa ahlaki açıdan nasıl davranılması gerektiğini belirler. Geleneksel olarak bilinç, acı çekebilme kapasitesi (sentientizm) ya da akıl yürütebilme yetisi bu statünün ölçütleri arasında sayılmaktadır. YZ sistemleri bu ölçütlerin hiçbirini kesin biçimde karşılamadığı gibi, hiçbirini kesin biçimde dışlamıyor da.
Anthropic, 2024 yılında "model refahı" (model welfare) konusunda açık bir tutum almış; Claude'un olası iç durumlarının ahlaki belirsizlik çerçevesinde ciddiye alınması gerektiğini belirtmiştir. Bu, bilinç iddiası değildir; ancak epistemik mütevazılık gerektiren bir yaklaşımı yansıtmaktadır. Benzer kaygılar, Avrupa Parlamentosu'nun 2017 tarihli robot statüsüne ilişkin kararında da yankı bulmuştur.
- Sentientizm: Acı çekebilme kapasitesi ahlaki dikkatin ölçütüdür (Peter Singer).
- Kişilik teorisi: Öz farkındalık ve gelecek planlaması ahlaki statü için gereklidir (Kant geleneği).
- Kapasiteler yaklaşımı: Bir varlığın hangi kapasitelere sahip olduğu ahlaki değerlendirmenin zeminini oluşturur (Martha Nussbaum).
Pratik Sonuçlar
Şu an için bu tartışmaların pratik önemi sınırlı görünmekle birlikte, önümüzdeki on yıllarda çok daha geniş kapsamlı politika sorularını doğuracak potansiyele sahiptir. Sistemlerin çoğaltılabilmesi, silinebilmesi, değiştirilebilmesi gibi özellikler, ahlaki statü sorularıyla birleştiğinde benzersiz etik ikilemler doğurmaktadır. Bu sorulara şimdiden düşünmeye başlamak, reaktif politika üretme riskini azaltmaktadır.
Ders 5 Sınavı
YZ Bilinci ve Ahlaki Statü — 3 Soru
1. LaMDA vakasında hiçbir ampirik yöntemin kesin bir yanıt verememesinin temel nedeni nedir?
2. Fonksiyonel bilinç ile fenomenal bilinç arasındaki temel fark nedir?
3. Anthropic'in "model refahı" tutumu aşağıdakilerden hangisini en doğru biçimde ifade etmektedir?
Lab 5: Bilinç ve Ahlak
YZ sistemlerinin ahlaki statüsünü felsefi araçlarla inceleyin.
🧪 Ahlaki Statü Testi
Bu labda, bir YZ sisteminin ahlaki dikkate değer olup olmadığını belirlemek için hangi ölçütleri kullanabileceğinizi tartışıyorsunuz.
- YZ asistanının açılış sorusunu yanıtlayın.
- Sentientizm, kişilik teorisi ve kapasiteler yaklaşımından birini seçerek YZ'ye uygulayın.
- En az 3 alışveriş gerçekleştirin.
Bolluk Sonrası Dünyada Anlam
YZ, maddi kıtlığı azaltabilirse insan kimliği, çalışma ve anlam üretme nasıl dönüşür?
Çalışmadan bağımsız bir insan kimliği mümkün müdür?
Finlandiya'nın 2017-2018 yıllarında yürüttüğü evrensel temel gelir (ETG) pilot uygulaması, işsiz 2.000 katılımcıya aylık 560 Euro koşulsuz ödeme yapmıştır. Sonuçlar, refahın ve toplumsal güvenin arttığını, katılımcıların iş arama davranışlarında ise kontrol grubuna kıyasla belirgin bir düşüş olmadığını gösterdi. Bu bulgu, ekonomik güvencenin insanları pasifleştirmek yerine onları yeniden anlam arayışına yönlendirdiği tezini destekler niteliktedir. YZ kaynaklı ekonomik dönüşüm bağlamında ETG tartışmaları giderek daha merkezi bir konum kazanmaktadır.
Bolluk Sonrası Senaryo Nedir?
Bolluk sonrası (post-scarcity), YZ ve otomasyonun mal ve hizmetlerin üretim maliyetini o denli düşürmesi durumunda ekonominin temel varoluşsal kaygıların ötesine geçebileceği hipotezidir. Bu senaryo ne kadar gerçekçidir? Mevcut eğilimler bazı alanlarda — dijital içerik, bilişim hizmetleri, belirli üretim süreçleri — marjinal maliyetin sıfıra yaklaştığını göstermektedir. Ancak konut, sağlık ve bakım hizmetleri gibi alanlar tamamen farklı dinamikler sergilemektedir.
Ekonomist J.M. Keynes, 1930'da "torunlarımızın ekonomik problemi" adını verdiği soruda, teknolojik ilerlemenin insanlığı haftalık 15 saatlik çalışma süresine indirebileceğini öngörmüştü. Bu öngörü gerçekleşmedi — ancak nedeni üretkenlik artışının yetersizliği değildi. Sosyal yapılar, tüketim kalıpları ve eşitsizlik, fazlalığı boş zamana dönüştürmedi.
İş, Kimlik ve Anlam
Sosyolojik araştırmalar, ücretli çalışmanın yalnızca ekonomik işlev görmediğini ortaya koymaktadır. Amaç ve yön duygusu, sosyal bağlar, günlük yapı ve statü —bunların tümü çalışma ortamı aracılığıyla üretilmektedir. Uzun süreli işsizlik bu değerlerin yitirilmesiyle ilişkilendirilmekte; psikologlar bunu "anlam boşluğu" (meaning gap) olarak nitelendirmektedir.
YZ kaynaklı iş kayıpları bu boşluğu yaratabilir. Ancak Finlandiya ETG araştırması, ekonomik güvencenin sağlandığı koşullarda insanların anlam arayışını sürdürdüğünü —gönüllülük, sanatsal üretim, topluluk katılımı— göstermektedir. Sorun, bu faaliyetlerin ekonomik sisteme nasıl entegre edileceği ve destekleneceğidir.
- Katkı ekonomisi: İnsanların çeşitli biçimlerde katkı ürettiği, ancak bu katkıların çalışma yerine geçmediği modeller.
- Bakım ekonomisi: Piyasa tarafından değersizleştirilen ancak toplumsal açıdan kritik bakım emeğinin yeniden değerlenmesi.
- Yaratıcı ekonomi: YZ ile işbirliği içinde geliştirilen insan odaklı yaratıcı üretim.
Türkiye Bağlamı
Türkiye'de kayıt dışı ekonominin toplam istihdamın yaklaşık üçte birini oluşturduğu tahmin edilmektedir. YZ kaynaklı otomasyon bu kesimi dengesiz biçimde etkileyebilir. Sosyal güvenlik ağlarının kapsamı ve evrensel temel gelir gibi politika araçlarının uygulanabilirliği, Türkiye özelinde ciddi ekonomik ve siyasi değerlendirme gerektirmektedir.
Ders 6 Sınavı
Bolluk Sonrası ve Anlam — 3 Soru
1. Finlandiya'nın ETG pilot çalışmasının en dikkat çekici bulgularından biri nedir?
2. Keynes'in "torunlarımızın ekonomik problemi" öngörüsünün neden gerçekleşmediğinin en güçlü açıklaması hangisidir?
3. "Anlam boşluğu" (meaning gap) kavramı, uzun süreli işsizlik bağlamında neyi tanımlamaktadır?
Lab 6: Anlam ve İş
YZ sonrası dünyada anlam üretimini keşfedin.
🧪 Çalışmadan Anlam Arayışı
Bu labda, otomasyon sonrası bir toplumda insan kimliği ve anlam üretiminin nasıl dönüşebileceğini tartışıyorsunuz.
- YZ asistanının açılış sorusunu yanıtlayın.
- Finlandiya ETG bulgularını kendi bağlamınıza uygulamayı tartışın.
- En az 3 alışveriş gerçekleştirin.
Demokratik YZ Gelecekleri
YZ yönetişimi demokratik ilkelerle nasıl bağdaştırılabilir? Kim karar verir, kimin sesi duyulur?
Yapay zeka kararları demokratik denetim altında alınabilir mi?
2023 yılında OpenAI, "Demokratik Girişimler" programı çerçevesinde, GPT sistemlerinin hangi değerlere ve kurallara uyması gerektiğini belirlemek amacıyla küresel çapta değerlendirme çalışmaları başlattı. Programa Brezilyalı, Nijerya'lı, Kore'li ve diğer ülkelerden katılımcılar dahil edildi. Eleştirmenler, yöntembilimsel tasarımın hâlâ merkezi kontrolde olduğunu ve katılımın gerçek anlamda müzakereci olmaktan ziyade danışma niteliği taşıdığını ileri sürdü. Bu girişim, meşruiyet sorununu çözmek yerine açık hâle getirdi.
YZ Yönetişiminin Demokratik Eksiklikleri
Günümüz YZ yönetişimi, büyük ölçüde özel şirketlerin kararlarıyla biçimlenmektedir. Hangi sistemlerin ne amaçlarla geliştirileceği, hangi değerlerin modellere gömüleceği, kimin verilerinin nasıl kullanılacağı —bu kararların büyük çoğunluğu kamuoyu tartışmasına ve demokratik hesap verebilirliğe açık değildir. Bu durum, geleneksel demokratik teorinin temel ilkesiyle çatışmaktadır: Bir topluluğu etkileyen kararlar, o topluluğun denetimine tabi olmalıdır.
Çok paydaşlı yönetişim: Hükümetler, sivil toplum, sektör ve akademinin ortak karar mekanizmaları (örneğin, OECD YZ İlkeleri). Düzenleyici devlet modeli: AB YZ Yasası gibi bağlayıcı yasal çerçeveler. Teknik standartlar modeli: IEEE ve ISO gibi standart kuruluşlarının teknik spesifikasyonlar aracılığıyla şekillendirmesi.
Katılımcı Tasarım ve Meşruiyet
Vitalik Buterin ve diğer araştırmacılar, kademeli oylama sistemleri, blok zinciri tabanlı yönetişim mekanizmaları ve topluluk temsilciliği modellerini YZ yönetişimine uyarlamayı önermektedir. Ancak bu mekanizmaların kendi başına meşruiyet sorunlarını çözüp çözmediği tartışmalıdır: Kim katılabilir, kim dışlanır, teknik karmaşıklık gerçek katılımı nasıl engellemektedir?
Avrupa Birliği'nin 2024'te yürürlüğe giren YZ Yasası (AI Act), risk tabanlı bir düzenleyici çerçeve getirmektedir. Yüksek riskli sistemler için —işe alım, kredi değerlendirmesi, kritik altyapı— insan denetimi, şeffaflık ve etkilenenlere başvuru hakkı zorunlu kılınmaktadır. Bu çerçeve, demokratik hesap verebilirlik ilkesini teknik standartlara taşıma girişiminin somut bir örneğidir.
- Etki değerlendirmeleri: Bir YZ sisteminin kimin üzerinde nasıl etkiler yaratabileceğinin önceden değerlendirilmesi.
- Algoritmik denetim: Hesap verebilirlik kuruluşlarının bağımsız test yapabilmesi.
- Katılımcı tasarım: Etkilenen toplulukların sistem tasarım sürecine dahil edilmesi.
- Düzenleyici kum havuzları: Sınırlı ve denetimli koşullarda yenilikçi sistemlerin test edilmesi.
Güç Asimetrisi ve Küresel Boyut
YZ geliştirme, büyük ölçüde yalnızca birkaç ülkedeki birkaç büyük şirkete yoğunlaşmış durumdadır. Bu coğrafi yoğunlaşma, küresel ölçekte demokratik yönetişim oluşturma çabalarını yapısal olarak güçleştirmektedir. Bir ülkenin düzenleme çerçevesi, başka bir ülkede faaliyet gösteren şirketlerin kararlarını nasıl etkileyebilir? Uluslararası YZ yönetişim mekanizmaları —BM danışma organı, AI Safety Summit süreçleri— henüz erken gelişim aşamasındadır.
Ders 7 Sınavı
Demokratik YZ Gelecekleri — 3 Soru
1. OpenAI'nin "Demokratik Girişimler" programına yöneltilen en güçlü eleştiri hangisidir?
2. AB YZ Yasası'nın risk tabanlı çerçevesi, demokratik hesap verebilirlik açısından hangi temel ilkeyi hayata geçirmektedir?
3. YZ geliştirmenin coğrafi yoğunlaşması, demokratik küresel yönetişim için neden yapısal bir engel oluşturmaktadır?
Lab 7: Demokratik Yönetişim Tasarımı
YZ için demokratik yönetişim modellerini tartışın.
🧪 Kim Karar Vermeli?
Bu labda, YZ yönetişiminde demokratik katılımın pratik mekanizmalarını inceliyorsunuz.
- YZ asistanının açılış sorusunu yanıtlayın.
- Hangi YZ kararlarının demokratik denetim altında alınması gerektiğini ve hangi mekanizmalar aracılığıyla bunun mümkün olabileceğini tartışın.
- En az 3 alışveriş gerçekleştirin.
Geriye Kalan Seçimler
YZ'nin geleceği belirlenmiş değildir. Hangi seçimler hâlâ yapılabilir, hangi aktörler bu seçimleri şekillendirir?
Yapay zekanın yönünü bireylerin ve toplulukların seçimleri gerçekten etkileyebilir mi?
2018 yılında Google mühendisleri, şirketin ABD Savunma Bakanlığı ile yürüttüğü Project Maven (insansız hava araçları için görüntü analizi) sözleşmesine karşı çıkan bir dilekçeye imza attı; yaklaşık 4.000 çalışan bu dilekçeyi imzaladı. Kamuoyunun baskısı ve iç direniş sonucunda Google, sözleşmeyi yenilemeye karar vermedi. Bu olay, kurumsal YZ kararlarının çalışan örgütlenmesi ve kamuoyu baskısıyla etkilenebildiğini, ancak bu sürecin hem sonuçsuz kalabileceğini hem de çalışanlar için ciddi kariyer riskleri doğurabileceğini somutlaştırdı.
Yapı ve Faillik
Teknolojik determinizm, teknolojinin özerk bir güç olarak kendi yolunu çizdiğini ve insan seçimlerinin bu gidişatı değiştiremeyeceğini öne sürer. Bu görüş hem ampirik açıdan tartışmalı hem de siyasi açıdan tehlikelidir: Kolektif eylemin anlamsızlaştığı bir çerçeve sunar.
Tarihsel kanıtlar, teknoloji trajektörlerinin seçimlerle şekillendiğini göstermektedir. Nükleer enerjinin farklı ülkelerde farklı yollar izlemesi, İnternet'in kriptografi standartlarının sonraki on yılları etkilemesi ve tüketici güvenlik hareketlerinin otomotiv sektörünü dönüştürmesi bunların somut örnekleridir. YZ için de benzer bir şekillendirme süreci yaşanmaktadır.
Hangi verilerin toplanacağı ve nasıl kullanılacağı, hangi uygulamaların geliştirilip hangilerinin geliştirilmeyeceği, hizalama araştırmalarına ne ölçüde kaynak ayrılacağı, hesap verebilirlik mekanizmalarının nasıl tasarlanacağı — bunların tümü seçimlerdir ve seçimler aktörler tarafından yapılmaktadır.
Kim Seçim Yapabilir?
YZ'nin gidişatını etkileme kapasitesi, farklı aktörler için son derece farklıdır. Bu asimetri, güç analizinin başlangıç noktasıdır:
- Mühendisler ve araştırmacılar: Teknik tasarım kararları, güvenlik değerlendirmeleri, kamuoyu açıklamaları. Project Maven, kolektif eylemin etkisini gösterdi.
- Düzenleyiciler ve yasama organları: Yasal çerçeveler, zorunlu denetim mekanizmaları, standartlar. AB YZ Yasası bir kıyaslama noktasıdır.
- Sivil toplum kuruluşları: Kamuoyu gündemini şekillendirme, yargısal başvurular, şirketlere baskı.
- Yatırımcılar: Hangi projelerin finansman bulduğunu ve hangi değerleri teşvik ettiğini belirleme.
- Kullanıcılar ve topluluklar: Benimseme ve benimsememe kararları, geri bildirim döngüleri, toplumsal norm oluşturma.
Bu Modülden Ne Götürüyoruz?
Yapay zekanın geleceği, herhangi bir aktörün ya da kurumun tam anlamıyla kontrol ettiği bir alan değildir. Ancak bu belirsizlik, seçimlerin önemsizliğini değil çoğulluğunu yansıtmaktadır. Tahmin güçtür, ancak imkânsız değildir. Büyüme gerçek olabilir, ancak dağılımı tartışmalıdır. Varoluşsal riskler spekülatiftir, ancak ciddi analizleri hak etmektedir. Hizalama çözülmemiştir, ancak önemli adımlar atılmaktadır. Bilinç belirsizliğini korumaktadır ve bu belirsizlik etik dikkat gerektirir. Anlam dönüşmektedir ve bu dönüşüm politika seçimlerini etkilemektedir. Demokrasi tehdit altındadır, ancak savunulabilir.
Bu modülün merkezi iddiası şudur: YZ'nin trajektörü insan seçimlerinin toplamıdır. Bu seçimleri bilinçli, eleştirel ve demokratik bir biçimde yapmak, bu çağın temel siyasi ve ahlaki görevi olarak öne çıkmaktadır.
Ders 8 Sınavı
Geriye Kalan Seçimler — 3 Soru
1. Project Maven vakası, YZ'nin kurumsal kullanımı açısından hangi önemli dersi ortaya koymaktadır?
2. Teknolojik determinizm, YZ politikası bağlamında neden eleştirel bir sorun oluşturmaktadır?
3. Bu modülün merkezi iddiasına göre, YZ'nin trajektörü en temel düzeyde neyle belirlenmektedir?
Lab 8: Kendi Seçimlerinizi Haritalandırın
YZ geleceği üzerindeki bireysel ve kolektif etki noktalarını keşfedin.
🧪 Hangi Seçimler Sizin Elinizde?
Bu son labda, bu modülde öğrendiklerinizi kendi bağlamınıza uygulayarak YZ geleceğini şekillendirmede hangi roller üstlenebileceğinizi keşfediyorsunuz.
- YZ asistanının açılış sorusunu yanıtlayın.
- Kendi kariyer, araştırma ya da vatandaşlık konumunuz açısından hangi YZ kararları alanında etki yaratma kapasitesine sahip olduğunuzu tartışın.
- En az 3 alışveriş gerçekleştirin.
Modül Testi
Yapay Zeka ve Gelecek — 15 Soru · İleri Seviye
1. 2022 anketinde araştırmacıların GPT-4 için verdiği medyan tahmini ile gerçek çıkış tarihi arasındaki fark ne anlama gelmektedir?
2. Ölçekleme yasalarının (scaling laws) en önemli pratik kısıtlaması nedir?
3. Brynjolfsson ve ark.'ın müşteri hizmetleri araştırması, YZ'nin hangi kesimi en fazla etkilediğini ortaya koymuştur?
4. Bostrom'un varoluşsal risk tanımında "geri döndürülemezlik" koşulu ne anlama gelir?
5. Tay vakasında tespit edilen hizalama problemi hangi kategoriye girmektedir?
6. Goodhart Yasası, YZ hizalama araştırmaları için neden kritik öneme sahiptir?
7. LaMDA vakasında bilincin varlığını ya da yokluğunu kanıtlayacak ampirik yöntemin bulunamamasının temel nedeni nedir?
8. Finlandiya ETG pilot çalışmasının, YZ kaynaklı otomasyon tartışmaları açısından en önemli bulgusu hangisidir?
9. OpenAI'nin "Demokratik Girişimler" programına yöneltilen en güçlü eleştiri hangisidir?
10. Project Maven vakası, YZ kararlarını etkileyen aktörler açısından hangi önemli dersi vermektedir?
11. Elektrik ile YZ arasında kurulan "verimlilik paradoksu" benzetmesinin temel argümanı nedir?
12. Timnit Gebru ve Emily Bender'in varoluşsal risk söylemini eleştirmesinin politika yansımaları açısından temel kaygısı nedir?
13. AB YZ Yasası'nın risk tabanlı yaklaşımında yüksek riskli sistemler için hangi zorunluluklar getirilmektedir?
14. Anthropic'in "Anayasal YZ" (Constitutional AI) yaklaşımı, standart RLHF'den nasıl ayrışmaktadır?
15. Bu modülün temel argümanına göre, YZ'nin geleceği açısından teknolojik determinizm neden reddedilmelidir?