Derin sinir ağları (deep neural networks), verideki örüntüleri hiyerarşik olarak temsil eder. Birinci katman pikseller arasındaki ham ilişkileri işlerken; her sonraki katman bir öncekinin çıktısından daha soyut örüntüler türetir. Görüntü tanımada bu hiyerarşi kenarlar → dokular → nesne parçaları → tam nesneler biçiminde ilerler.

Bu özelliği el ile kodlamak yıllar alırdı. Derin öğrenme, bu özellikleri veriden otomatik öğrenir; bu nedenle "temsil öğrenimi" (representation learning) olarak da adlandırılır. Modelin öğrendiği temsillerin kalitesi, nihai başarımı doğrudan belirler.

Modern yapay zeka modellerinin merkezinde gömme uzayları (embedding spaces) yatar. Bir gömme, ham veriyi (kelime, görüntü, ses) yüksek boyutlu bir sayı vektörüne dönüştürür. Bu uzayda benzer kavramlar birbirine yakın konumlanır. Word2Vec gibi erken modellerde "kral − erkek + kadın = kraliçe" vektör aritmetiğinin çalışması, anlamın bu uzayda geometrik biçimde kodlandığını gösteriyordu.

Bu ilke dil modellerinde de geçerlidir. GPT gibi büyük dil modelleri, her kelimeyi binlerce boyutlu bir uzayda konumlandırır; bağlam bu uzayda gömmeleri şekillendirir. "Banka" kelimesi "nehir" bağlamında farklı, "para" bağlamında farklı bir konuma taşınır.

• Gömme uzayının boyutu büyüdükçe modelin daha nüanslı ilişkileri temsil etme kapasitesi artar.
• Dikkat mekanizması (attention mechanism), hangi bağlam öğelerinin gömmeyi etkileyeceğini dinamik olarak belirler.
• Uzaydaki mesafe, benzerliği ölçmek için doğrudan kullanılabilir (kosinüs benzerliği).

Bir makine öğrenimi modeli, eğitim sürecinde öğrenilen sayısal ağırlıklar (weights) ve sabit mimari kararları (bias terimleri, katman sayısı, dikkat başlıkları gibi) içerir. Model mimarisi, hangi hesaplamaların yapılacağını tanımlayan bir çerçeve gibidir; ağırlıklar ise bu hesaplamaların içeriğini belirler. Eğitim tamamlandığında bu ağırlıklar dondurulur ve model dağıtıma hazır hale gelir.

GPT-4 gibi büyük bir modelin tahmin edilen parametre sayısı yüz milyarları aşar. Bu parametreler, temel olarak kayan noktalı (floating-point) sayılardır. Her parametre, aktivasyonları ne ölçüde iletip iletmeyeceğini belirler. Eğitim, tüm bu parametrelerin milyarlarca girdi üzerinde en düşük kaybı üretecek değerlere ayarlanması sürecidir.

Aynı mimariyi kullanarak farklı verilerle eğitilmiş iki model, birbirinden çok farklı davranışlar sergileyebilir. Bu, ağırlıkların modelin gerçek "bilgi deposu" olduğunu ortaya koyar. Mimari, beynin yapısal şemasıyken ağırlıklar öğrenilmiş deneyimi temsil eder.

Transformatör mimarisi (transformer architecture), 2017'de Vaswani ve arkadaşlarının "Attention is All You Need" makalesiyle tanıtıldı. O tarihten bu yana BERT, GPT ailesi, T5 ve LLaMA dahil neredeyse tüm büyük dil modelleri bu mimariyi temel alır. Ancak her biri farklı ağırlıklara sahip olduğundan davranışları belirgin biçimde ayrışır.

• Mimari: Katman sayısı, başlık sayısı, bağlam penceresi gibi sabit tasarım kararları.
• Ağırlıklar: Eğitim boyunca optimize edilen, öğrenilmiş sayısal değerler.
• Çıkarım (inference): Eğitilmiş ağırlıkları kullanarak yeni girdilere yanıt üretme süreci.

Gözetimsiz öğrenme (unsupervised learning), etiket içermeyen veri üzerinde gizli yapıları keşfetmeyi amaçlar. Model, hangi çıktının "doğru" olduğuna dair harici sinyal almadan verideki örüntüleri ve kümeleri bulmaya çalışır. K-means kümeleme, ana bileşen analizi (PCA) ve öz kodlayıcılar (autoencoders) bu yaklaşımın klasik örnekleridir.

Büyük dil modellerinin ön eğitimi teknik olarak gözetimsiz öğrenmenin bir formudur: model, milyarlarca metin belgesinde "bir sonraki kelimeyi tahmin et" göreviyle eğitilir. Bu görev için insan etiketi gerekmez; metnin kendisi doğal etiket görevi görür. Bu nedenle araştırmacılar bu yaklaşımı "öz denetimli öğrenme" (self-supervised learning) olarak adlandırır.

Pekiştirmeli öğrenme (reinforcement learning — RL), bir etmenin (agent) ortamla etkileşim kurarak deneme-yanılma yoluyla öğrendiği yaklaşımdır. Etmen, her eylem için bir ödül (reward) veya ceza (penalty) alır; hedef, toplam beklenen ödülü en üst düzeye çıkarmaktır. AlphaGo ve sonraki AlphaZero, bu yaklaşımın ne kadar güçlü olabileceğini somutlaştırdı.

Büyük dil modelleri bağlamında pekiştirmeli öğrenme, "İnsan Geri Bildiriminden Pekiştirmeli Öğrenme" (RLHF — Reinforcement Learning from Human Feedback) biçiminde uygulanır. ChatGPT ve Claude gibi modeller, insan değerlendiricilerin tercihlerinden öğrenen bir ödül modeli aracılığıyla ince ayar yapılmıştır. RLHF, modelin yalnızca doğru değil, tercih edilen yanıtlar üretmesini sağlar.

• Etmen (Agent): Kararlar veren ve öğrenen sistem.
• Ortam (Environment): Etmenin etkileşime girdiği bağlam.
• Ödül (Reward): Eylemin ne kadar iyi olduğunu bildiren sinyal.
• Politika (Policy): Durumdan eyleme eşleme — öğrenilen strateji.

Makine öğrenimi modellerindeki önyargıların büyük çoğunluğu model mimarisinden değil, eğitim verisindeki sistematik temsil hatalarından kaynaklanır. Eğer geçmiş veride belirli gruplar eksik temsil ediliyorsa veya tarihsel ayrımcılık yansıtılıyorsa, model bu örüntüleri öğrenir ve yeni durumlara aktarır. Bu duruma dağılım kayması (distributional shift) veya önyargı aktarımı (bias transfer) denir.

Amazon vakasında kritik husus şudur: mühendisler modele "cinsiyete bakma" demişlerse de model, cinsiyetle istatistiksel olarak ilişkili olan diğer özellikleri (belirli üniversiteler, belirli kelimeler) proxy olarak kullandı. Önyargıyı veri temizliğiyle gidermek mümkündür, ancak tüm proxy değişkenlerin tespiti son derece güçtür.

Eğitim verisi yalnızca önyargı değil, çeşitli kalite sorunlarıyla da karşı karşıyadır. Gürültülü etiketler (noisy labels), veri zehirlenmesi (data poisoning) ve dağılım kayması bunların başında gelir. 2021'de Stanford araştırmacıları, büyük web tarama verisi kümelerinin ciddi miktarda tehlikeli ve yanıltıcı içerik barındırdığını belgeledi; bu veriler üzerinde eğitilen modeller bu içerikleri öğreniyordu.

Veri zehirlenmesi, bir saldırganın modelin eğitim veri kümesine kasıtlı olarak belirli örnekler ekleyerek modelin davranışını manipüle etmesidir. Bu saldırı türü hem açık kaynak veri kümelerini hem de web'den toplanan verileri hedef alabilir. 2022'de araştırmacılar, LAION veri kümesinin yüzde bir kısmını bile değiştirmenin görüntü tanıma modellerinin belirli girdiler için davranışını anlamlı ölçüde etkileyebildiğini gösterdi.

• Temsil eksikliği: Belirli grupların, dillerin veya bağlamların eğitim verinde yetersiz yer alması.
• Geçmiş önyargısı: Tarihsel verinin sistematik ayrımcılığı yansıtması.
• Veri zehirlenmesi: Kasıtlı olarak bozulmuş örneklerin eğitim kümesine eklenmesi.
• Dağılım kayması: Eğitim ve kullanım ortamı arasındaki istatistiksel farklılık.

Ön eğitim (pretraining), büyük ve genel bir veri kümesi üzerinde modelin temel yeteneklerini (dil anlama, görüntü tanıma vb.) kazanmasıdır. İnce ayar (fine-tuning) ise ön eğitimden gelen ağırlıkları başlangıç noktası alarak, çok daha küçük bir göreve özgü veri kümesi üzerinde ek eğitim yapmaktır. Bu iki aşamalı yaklaşım, büyük hesaplama kaynaklarına sahip organizasyonların (Google, OpenAI, Meta) küçük organizasyonların ve araştırmacıların kolayca kullanamayacağı modeller üretmesine ve bu modellerin topluluk tarafından uyarlanmasına imkân tanır.

Tam ince ayar (full fine-tuning), ön eğitimden gelen tüm ağırlıkların göreve özgü veriyle güncellenmesini içerir. Ancak bu yaklaşım hem pahalıdır hem de felaket unutma (catastrophic forgetting) riskini taşır: model yeni görevi öğrenirken önceki genel yeteneklerini kaybedebilir.

Bu sorunu aşmak için daha verimli yaklaşımlar geliştirilmiştir. LoRA (Low-Rank Adaptation), 2021'de Microsoft araştırmacıları tarafından tanıtıldı. LoRA, orijinal ağırlıkları dondurup yalnızca çok daha küçük ek ağırlık matrislerini günceller. Bu sayede bellek ve hesaplama maliyeti dramatik biçimde düşer; 175 milyar parametreli bir modeli birkaç milyon ek parametreyle uyarlamak mümkün hale gelir.

• Tam ince ayar: Tüm ağırlıklar güncellenir; en güçlü ama en maliyetli yöntem.
• LoRA: Düşük boyutlu ek matrisler eklenir; orijinal ağırlıklar değişmez.
• Prefix tuning / Prompt tuning: Yalnızca girdi katmanındaki küçük vektörler optimize edilir.
• Adapter katmanlar: Model içine küçük ek katmanlar eklenir; orijinal ağırlıklar korunur.

Kıyaslama (benchmark), yapay zeka modellerinin belirli bir görevdeki performansını standart bir test kümesi üzerinde ölçen değerlendirme çerçevesidir. GLUE, SuperGLUE, MMLU, HumanEval ve BIG-bench gibi kıyaslamalar alanın "ölçüm standartları" haline gelmiştir. Ancak bu kıyaslamalar kamuya açık olduğundan, çok büyük miktarda interneti tarayan modeller bu test sorularını ön eğitim sırasında görmüş olabilir.

Bu sorun, yapay zeka araştırmasında "kıyaslama kirliliği" (benchmark contamination) olarak anılır. Kirlenmiş kıyaslamalarda yüksek puan almak, gerçek genelleme yeteneğinin değil ezber kapasitesinin göstergesi olabilir. 2023'te açıklanan GPT-4 teknik raporunun bu meseleyi açıkça tartışması, alanın bu sorunun farkında olduğunu gösterir; ancak bağımsız doğrulama hâlâ güçtür.

Güvenilir değerlendirme, modelin hiç görmediği verileri kullanmayı, çok boyutlu ölçütler uygulamayı ve tek bir sayıya indirgeme tuzağından kaçınmayı gerektirir. Öne çıkan bazı yaklaşımlar şunlardır:

• Dinamik kıyaslamalar: Test soruları periyodik olarak yenilenir; önceki sorular kamuya açılmaz. BIG-bench ve HELM bu yaklaşımı benimser.
• İnsan değerlendirmesi: Chatbot Arena gibi platformlarda gerçek kullanıcılar modelleri karşılaştırarak tercih bildirir.
• Açıklama isteme (chain-of-thought): Yalnızca nihai cevap değil, akıl yürütme süreci değerlendirilir.
• Dağılım dışı test (out-of-distribution): Model, eğitim dağılımından belirgin biçimde farklı verilerle test edilir.

Mevcut büyük dil modelleri, korelasyon örüntülerini öğrenmek konusunda son derece güçlüdür; ancak gerçek anlamda nedensel çıkarım yapma yeteneğinden yoksundur. Pearl'ün "nedensellik merdiveni" üç basamak tanımlar: birincisi gözlem (korelasyon görmek), ikincisi müdahale (bir değişkeni değiştirdiğimizde ne olur?), üçüncüsü karşı-olgusal (farklı davransaydı ne olurdu?). Mevcut transformatör modelleri birinci basamakta güçlüdür; ikinci ve üçüncüde sistematik olarak zayıftır.

Nedensellik dışında, mevcut modellerin öğrenmekte zorlandığı birkaç temel alan daha vardır:

• Sürekli öğrenme (continual learning): İnsan beyni yeni bilgileri edinirken eskileri koruyabilir. Mevcut modeller ise yeni verilerle güncellenmek istendiğinde felaket unutma sorunuyla karşı karşıya kalır.
• Az örnekli akıl yürütme (few-shot compositional reasoning): Birkaç örnekten tamamen yeni kural bileşimleri türetme, modellerin tutarsız biçimde üstesinden geldiği bir görevdir.
• Fiziksel sezgi: Dil modelleri, gerçek dünya fiziksel olayları hakkında sistematik hatalar yapar — çünkü eğitim verileri gözlemsel fizik deneyimi değil metin içerir.
• Meta-öğrenme: Nasıl öğreneceğini öğrenme ve öğrenme stratejisini görev türüne göre uyarlama yeteneği henüz yetersizdir.

Bu sınırlar, mevcut yapay zekânın güçlü istatistiksel örüntü eşleştiriciler olduğunu ancak genel zekâya (AGI — Artificial General Intelligence) henüz uzak olduğunu gösterir. Alan bu açık soruları çözmeye çalışırken araştırmacılar nedensel temsiller, dünya modelleri ve çevrim içi öğrenme gibi yaklaşımlar geliştirmektedir.