Büyük Dil Modelleri (LLM) Nedir? Transformer Mimarisi ve Matematiksel Çalışma Prensipleri

LLM nedir sorusunun teknik karşılığı, büyük miktarda metinsel veriden dilin istatistiksel yapısını öğrenen ve öğrendiği olasılık dağılımlarına göre yeni metin üretebilen derin öğrenme modelleridir. LLM, İngilizce Large Language Model ifadesinin kısaltmasıdır ve Türkçede Büyük Dil Modeli olarak kullanılır.

Bir LLM yalnızca kelimeleri ezberleyen bir yazılım değildir. Eğitim sırasında çok büyük miktarda metin içerisindeki semboller arasındaki ilişkileri matematiksel ağırlıklar aracılığıyla temsil eder. Kullanıcı bir istem gönderdiğinde model, verilen bağlamı token adı verilen daha küçük parçalara ayırır ve sıradaki token için olasılık dağılımı hesaplar. Üretim süreci bu tahminlerin art arda gerçekleştirilmesiyle ilerler.

Bu nedenle LLM yapay zeka ekosisteminin tamamını ifade etmez. Yapay zeka daha geniş bir kavramdır; makine öğrenmesi, bilgisayarlı görü, robotik, konuşma sistemleri ve dil modelleri gibi birçok alanı kapsar. LLM ise doğal dil işleme ve üretimi için geliştirilmiş belirli bir model sınıfıdır. Başka bir ifadeyle LLM ile yapay zeka arasındaki fark, birinin geniş bir teknoloji alanını, diğerinin ise bu alan içerisindeki belirli bir model yaklaşımını ifade etmesidir.

LLM açılımı ve büyük dil modeli ne demek?

LLM açılımı Large Language Model şeklindedir. “Large” ifadesi yalnızca modelin dosya boyutunu değil, modelin sahip olduğu parametre ölçeğini, eğitim verisinin kapsamını ve hesaplama gereksinimini de ifade eden teknik bir çerçevede değerlendirilir.

Bir büyük dil modeli, eğitim sırasında metinlerdeki örüntüleri öğrenerek dilin sözdizimi, kelime ilişkileri, bağlam ve çeşitli bilgi temsilleri hakkında matematiksel bir yapı oluşturur. Modelin içerisinde milyonlarca, milyarlarca veya daha büyük ölçekte parametre bulunabilir. Bu parametreler eğitim sürecinde güncellenen sayısal değerlerdir.

LLM çalışma prensibinin temelinde olasılıksal tahmin bulunur. Basitleştirilmiş biçimde modelin amacı şu şekilde ifade edilebilir:

P(wₜ | w₁, w₂, ..., wₜ₋₁)

Buradaki ifade, önceki semboller bilindiğinde sıradaki sembolün ortaya çıkma olasılığını temsil eder. Model her üretim adımında mümkün tokenlar arasında bir olasılık dağılımı oluşturur ve seçilen yönteme göre bu dağılımdan bir sonraki tokenı belirler.

Bu mekanizma, LLM'nin bir insan gibi metni bilinçli biçimde “düşündüğü” anlamına gelmez. Modelin gerçekleştirdiği işlem, eğitim sırasında öğrenilen parametreler ve mevcut bağlam üzerinden olasılıksal hesaplamalar yapmaktır.

LLM ile yapay zeka arasındaki ilişki

“LLM ve yapay zeka” ifadeleri günlük kullanımda zaman zaman birbirinin yerine kullanılsa da teknik açıdan aynı kavram değildir. Yapay zeka bir üst başlık olarak düşünülebilir. LLM ise bu alan içerisinde özellikle insan dilinin işlenmesi ve üretilmesine odaklanan modelleri tanımlar.

Örneğin bir görüntü sınıflandırma sistemi, görüntülerdeki nesneleri tanımaya yönelik bir yapay zeka uygulaması olabilir fakat LLM değildir. Buna karşılık metin oluşturma, özetleme, soru yanıtlama, kod üretme veya doğal dil üzerinden bilgi işleme yapan büyük ölçekli dil modelleri LLM sınıfına girebilir.

Bu ayrım, LLM ve AI farkı aramalarında karşılaşılan temel kavram karmaşasını da giderir: Her LLM bir yapay zeka sisteminin parçasıdır; ancak her yapay zeka sistemi LLM değildir.

LLM modelleri nelerdir?

LLM modelleri farklı şirketler, araştırma ekipleri ve açık kaynak toplulukları tarafından farklı mimari ve eğitim stratejileriyle geliştirilebilir. GPT ailesi, Llama ailesi, Gemini ve Claude gibi isimler büyük dil modeli ekosisteminde sık karşılaşılan örneklerdir.

Burada model adı ile uygulama arasındaki ayrımı yapmak gerekir. Örneğin kullanıcıların doğrudan etkileşim kurduğu bir sohbet uygulaması ile arka planda çalışan temel dil modeli aynı şey değildir. LLM ve ChatGPT ilişkisi de bu ayrım üzerinden anlaşılabilir: ChatGPT bir yapay zeka ürünü ve etkileşim katmanı olarak değerlendirilirken, arkasındaki belirli model sürümleri LLM teknolojisinden yararlanabilir.

Büyük dil modeli örnekleri incelenirken yalnızca modelin büyüklüğüne bakmak yeterli değildir. Eğitim yöntemi, model mimarisi, bağlam kapasitesi, kullanım amacı, lisans koşulları, çıkarım maliyeti ve belirli görevlerdeki başarımı da değerlendirilmelidir.

LLM nasıl çalışır?

LLM nasıl çalışır sorusunun cevabı birkaç temel aşamaya ayrılabilir: metnin tokenlara dönüştürülmesi, tokenların sayısal temsillere aktarılması, bağlam içerisindeki ilişkilerin Transformer mimarisi üzerinden hesaplanması ve sonraki tokenın olasılıksal olarak tahmin edilmesi.

Kullanıcı tarafından girilen bir cümle doğrudan modelin içine kelime kelime aktarılmaz. Önce tokenization adı verilen işlem uygulanır. Tokenizer, metni modelin sözlüğüne bağlı olarak daha küçük birimlere böler. Bu birimler bazen tam bir kelime, bazen kelimenin bir bölümü, bazen de noktalama işareti olabilir.

Tokenların sayısal kimlikleri daha sonra embedding katmanları aracılığıyla yüksek boyutlu vektör temsillerine dönüştürülür. Model bu vektörler üzerinden dil içerisindeki ilişkileri işler.

Bu aşamada Transformer mimarisi devreye girer. Özellikle Self-Attention mekanizması, bir dizideki tokenların birbirleriyle olan ilişkilerini hesaplayarak modelin mevcut bağlamı değerlendirmesine yardımcı olur. Böylece cümlenin farklı bölümleri arasındaki ilişkiler matematiksel olarak temsil edilebilir.

Modelin ürettiği çıktı ise doğrudan “hazır cevap” şeklinde veri tabanından çekilmez. Her adımda olası sonraki tokenlar için hesaplanan dağılım üzerinden üretim gerçekleştirilir. Bu nedenle aynı istem, kullanılan model ve üretim parametrelerine bağlı olarak farklı cevaplar ortaya çıkarabilir.

LLM nasıl yapılır?

Bir LLM nasıl yapılır sorusunun yanıtı, tek bir algoritmanın çalıştırılmasından çok aşamalı bir eğitim sürecini ifade eder. Büyük ölçekli bir model oluşturmak için geniş veri kümeleri, tokenizer, model mimarisi, yüksek hesaplama kapasitesi ve uzun süreli eğitim süreçleri gerekir.

Temel süreçte metin verileri hazırlanır, tokenlara ayrılır ve modelin öğrenebileceği biçime dönüştürülür. Ardından model, büyük ölçekli pre-training sürecinden geçirilerek dildeki örüntüleri öğrenir. Daha sonraki aşamalarda fine-tuning, Supervised Fine-Tuning (SFT), RLHF veya DPO gibi yöntemlerle modelin belirli görevlerdeki davranışı ve yanıt kalitesi geliştirilebilir.

Dolayısıyla LLM eğitimi nasıl yapılır sorusu yalnızca veri yükleyip model çalıştırmakla açıklanamaz. Veri kalitesi, model mimarisi, parametre sayısı, eğitim hedefi, donanım altyapısı ve modelin eğitim sonrasında hangi amaçla kullanılacağı birlikte değerlendirilir.

LLM teknolojisinin anlaşılması için asıl kırılma noktası burada ortaya çıkar: Modelin metin üretmesini sağlayan temel mekanizma, Transformer mimarisinin bağlam içerisindeki ilişkileri matematiksel olarak işleyebilmesidir. Bu mimari ve Self-Attention mekanizması, büyük dil modellerinin çalışma mantığının teknik temelini oluşturur.

Transformer Mimarisi ve Self-Attention Mekanizması

LLM mimarisi açısından en önemli kırılma noktalarından biri Transformer yaklaşımıdır. 2017 yılında Vaswani ve çalışma arkadaşlarının yayımladığı “Attention Is All You Need” çalışması, dizisel verilerin işlenmesinde dikkat mekanizmasını merkeze alan bir mimari ortaya koydu. Bu yaklaşım, daha önce yaygın biçimde kullanılan RNN ve LSTM tabanlı yöntemlerin sıralı işlem sınırlamalarını aşmaya yönelik önemli bir adım oldu.

Bir dil modelinin yalnızca kelimeleri tek tek değerlendirmesi yeterli değildir. Bir cümlenin anlamı, kelimelerin birbirleriyle olan ilişkisine bağlıdır. Transformer mimarisi bu ilişkileri Self-Attention mekanizması üzerinden matematiksel olarak hesaplar.

RNN ve LSTM neden yeterli değildi?

Transformer öncesindeki doğal dil işleme sistemlerinde RNN ve LSTM gibi tekrarlayan sinir ağları önemli bir yere sahipti. Bu modeller metni sıralı biçimde işleyerek önceki adımlardan elde edilen bilgiyi sonraki adımlara aktarabiliyordu.

Ancak bu yaklaşımın temel bir sınırı vardı: İşlem sırası büyük ölçüde birbirine bağımlıydı. Uzun dizilerde erken konumdaki bilgiler ile daha sonraki bilgiler arasında etkili bir bağlantı kurmak zorlaşabiliyordu.

Örneğin uzun bir cümlede özne ile cümlenin ilerleyen bölümündeki fiil arasında çok sayıda token bulunabilir. Modelin bu uzak ilişkileri doğru şekilde taşıması zorlaştıkça bağlam bilgisi de zayıflayabilir.

Transformer yaklaşımı, dizinin tamamındaki ilişkilerin daha paralel biçimde hesaplanmasına imkân veren Attention mekanizmasını merkeze alarak farklı bir yol izledi.

Self-Attention nedir?

Self-Attention, bir dizideki her tokenın diğer tokenlarla olan ilişkisini hesaplayan mekanizmadır. Buradaki “self” ifadesi, dikkatin aynı dizinin içerisindeki öğeler arasında kurulmasını ifade eder.

Bir cümledeki her token için model, diğer tokenların ne ölçüde ilgili olduğunu hesaplayabilir. Böylece bir kelimenin anlamını yalnızca hemen yanındaki kelimelerden değil, cümlenin daha uzak bölümlerinden gelen bilgilerle birlikte değerlendirebilir.

Self-Attention mekanizmasının matematiksel temelinde üç farklı temsil bulunur:

• Query (Q): Mevcut tokenın hangi bilgiyi aradığını temsil eder.

• Key (K): Her tokenın sahip olduğu ve sorguyla karşılaştırılan özellikleri temsil eder.

• Value (V): Dikkat sonucunda aktarılacak bilgiyi taşır.

Temel Attention işlemi şu denklemle ifade edilir:

Attention(Q, K, V) = softmax(QKᵀ / √dₖ)V

Burada Q ile K arasındaki matris çarpımı tokenlar arasındaki benzerlik veya ilişki skorlarını üretir. Bu değerler ölçeklendirilir, softmax fonksiyonundan geçirilerek ağırlıklara dönüştürülür ve V matrisindeki bilgiler bu ağırlıklarla birleştirilir.

Bu mekanizma sayesinde model, mevcut token için bağlam içerisindeki hangi bilgilerin daha fazla ağırlık taşıdığını hesaplayabilir.

Tokenization ve embedding arasındaki fark

LLM nasıl çalışır sorusunu teknik düzeyde anlamak için tokenization ile embedding kavramlarını birbirinden ayırmak gerekir.

Tokenization, metni modelin işleyebileceği tokenlara ayırma işlemidir. Örneğin tek bir kelime bir token olabilir; ancak kullanılan tokenizer ve sözlüğe göre bir kelime birden fazla parçaya da bölünebilir.

Embedding ise bu tokenların matematiksel vektörlere dönüştürülmesidir. Model, doğal dili doğrudan insanın gördüğü kelime biçimleriyle işlemez. Tokenlar sayısal temsillere dönüştürülür ve sinir ağı bu temsiller üzerinde hesaplama yapar.

Bu vektörler modelin dil içerisindeki ilişkileri öğrenmesinde temel girdilerden biridir. Eğitim sürecinde modelin parametreleri güncellendikçe token temsilleri de dildeki kullanım örüntülerini daha etkili biçimde yansıtabilir.

Positional Encoding neden gereklidir?

Self-Attention mekanizması tokenlar arasındaki ilişkileri hesaplayabilir; fakat yalnızca tokenların içerik temsillerine bakıldığında dizideki konum bilgisi ayrıca ifade edilmelidir.

“Ali Ayşe'yi gördü” ile “Ayşe Ali'yi gördü” gibi cümlelerde aynı kelimeler bulunmasına rağmen kelimelerin sırası anlamı değiştirir. Modelin bu farkı anlayabilmesi için tokenların dizideki konumlarının temsil edilmesi gerekir.

Transformer mimarisinde bu problem Positional Encoding veya daha genel anlamıyla konumsal bilgi temsilleri üzerinden ele alınır. Böylece model, tokenın yalnızca ne olduğunu değil, dizinin hangi konumunda bulunduğunu da değerlendirebilir.

Konumsal bilginin modele nasıl eklendiği kullanılan mimariye göre değişebilir. Klasik Transformer tasarımında sinüs ve kosinüs fonksiyonlarına dayanan positional encoding yaklaşımı kullanılmıştır. Daha sonraki dil modeli mimarilerinde ise farklı konumsal temsil yöntemleri geliştirilmiştir.

Multi-Head Attention nasıl çalışır?

Transformer mimarisi yalnızca tek bir Attention hesabından oluşmaz. Multi-Head Attention, birden fazla Attention başlığının paralel biçimde çalıştırılmasını sağlar.

Her attention head, tokenlar arasındaki farklı ilişki örüntülerine odaklanabilecek şekilde öğrenilebilir. Bir başlık sözdizimsel bir ilişkiye ağırlık verirken başka bir başlık farklı bir anlamsal bağlantıyı daha güçlü temsil edebilir.

Hesaplanan başlıkların çıktıları birleştirilerek sonraki Transformer katmanlarına aktarılır. Böylece model, aynı metni farklı ilişki perspektiflerinden değerlendirebilir.

Bu yapı, LLM mimarisinin yalnızca “kelime tahmin eden” basit bir sistem olmadığını gösterir. Modelin içerisinde çok sayıda matematiksel dönüşüm, ağırlık matrisi ve katman birlikte çalışır.

Bir LLM'in Doğuşu: Eğitim Aşamaları

Bir LLM'in yetenekleri yalnızca mimariden kaynaklanmaz. Modelin hangi verilerle ve hangi hedefle eğitildiği de ortaya çıkan davranış üzerinde belirleyicidir.

Pre-training: Dil modelinin temel eğitimi

Pre-training, büyük dil modellerinin temel öğrenme aşamasıdır. Model, çok geniş metin veri kümeleri üzerinden dildeki örüntüleri öğrenmeye çalışır.

Bu aşamada modelin temel görevi çoğu modern otoregresif LLM için önceki tokenlara bakarak sonraki tokenı tahmin etmektir. Modelin tahmini ile gerçek token arasındaki fark bir kayıp fonksiyonu üzerinden hesaplanır ve geriye yayılım yöntemiyle parametreler güncellenir.

Basitleştirilmiş bir akış şu şekilde düşünülebilir:

Metin → Tokenization → Embedding → Transformer katmanları → Sonraki token tahmini → Kayıp hesabı → Parametre güncellemesi

Bu işlem çok büyük sayıda örnek üzerinde tekrarlandığında model, dilin istatistiksel yapılarını giderek daha iyi temsil etmeye başlar.

Parametreler ne anlama gelir?

LLM'lerde parametre, eğitim sırasında öğrenilen sayısal değerleri ifade eder. Modelin ağırlıkları ve bazı mimarilerdeki bias değerleri, girdilerin nasıl dönüştürüleceğini belirleyen temel matematiksel bileşenlerdir.

Parametre sayısının artması tek başına bir modelin her görevde daha başarılı olacağını garanti etmez. Veri kalitesi, eğitim yöntemi, model mimarisi, hesaplama bütçesi ve çıkarım stratejileri de performansı etkiler.

Bu nedenle “en büyük model en iyi modeldir” yaklaşımı teknik açıdan yeterli değildir.

Fine-Tuning ve SFT

Pre-training sonrasında modelin belirli görevlerde daha kontrollü davranması için Fine-Tuning uygulanabilir.

Supervised Fine-Tuning (SFT) aşamasında modele belirli girdiler ve bunlara karşılık beklenen çıktılar sunulur. Model, bu örnekler üzerinden belirlenen davranış biçimine uyum sağlayacak şekilde yeniden eğitilir.

Örneğin bir modelin teknik dokümantasyon üretmesi, belirli bir formatta yanıt vermesi veya belirli bir görev alanına daha iyi uyum sağlaması hedeflenebilir.

Bu süreç, sıfırdan LLM oluşturmakla aynı şey değildir. Fine-Tuning mevcut bir modelin parametrelerini belirli bir amaç doğrultusunda değiştirmeye odaklanır.

RLHF ve DPO

Bir dil modelinin yalnızca doğru token tahmin etmesi, kullanıcı beklentilerine uygun cevap vereceği anlamına gelmez. Yanıtların yararlı, güvenli ve tercih edilen biçimde olması için insan değerlendirmelerinden yararlanılan yöntemler geliştirilmiştir.

RLHF (Reinforcement Learning from Human Feedback), insan geri bildirimlerinden yararlanarak model davranışını iyileştirmeyi amaçlayan yaklaşımlardan biridir. İnsanlar tarafından değerlendirilen yanıtlar, modelin hangi tür çıktıları tercih etmesi gerektiğine ilişkin sinyal oluşturabilir.

DPO (Direct Preference Optimization) ise tercih verilerini kullanarak modelin tercih edilen yanıtları üretme eğilimini doğrudan optimize etmeye yönelik bir yöntemdir.

Bu eğitim aşamalarını birbirinden ayırmak önemlidir:

Dil modelleri nasıl öğrenir?

Dil modelleri insan gibi ders çalışarak öğrenmez. Eğitim sırasında modelin parametreleri, tahmin hatasını azaltacak şekilde matematiksel optimizasyon yöntemiyle güncellenir.

Model bir tokenın ardından hangi tokenın gelmesi gerektiğine ilişkin tahminde bulunur. Gerçek veri ile tahmin arasındaki fark kayıp fonksiyonuyla ölçülür. Ardından gradyanlar hesaplanarak parametrelerin hangi yönde değiştirilmesi gerektiği belirlenir.

Milyarlarca parametreye sahip bir modelde bu süreç çok büyük hesaplama kaynakları gerektirebilir. Eğitim tamamlandığında model, eğitim verilerindeki örüntüleri parametrelerinde dağıtık biçimde temsil eden bir sinir ağı haline gelir.

Bu mekanizma, LLM teknolojisi ile ilgili en önemli ayrımlardan birini ortaya koyar: Modelin içerisinde geleneksel anlamda aranıp getirilen bir “cevap veri tabanı” bulunması gerekmez. Üretim, öğrenilmiş parametreler ve verilen bağlam üzerinden gerçekleşir.

LLM'lerin Kullanım Alanları

LLM kullanım alanları yalnızca sohbet uygulamalarıyla sınırlı değildir. Metin üretimi, özetleme, çeviri, sınıflandırma, bilgi çıkarımı, kod üretimi, doküman analizi ve müşteri hizmetleri gibi çok sayıda görevde kullanılabilir.

Bir LLM tabanlı uygulama, temel modelin tek başına kullanılmasından daha kapsamlı olabilir. Uygulamanın içerisinde veri tabanları, API'ler, arama sistemleri, RAG bileşenleri, güvenlik katmanları ve özel iş kuralları bulunabilir.

Örneğin hukuk alanında çalışan bir sistem, mevzuat ve içtihat belgeleriyle desteklenen bir dil modeli kullanabilir. “LLM avukat nedir” şeklindeki aramalarda karşılaşılan kavram da genellikle bu tür hukuk odaklı yapay zeka uygulamalarını ifade eder; LLM'nin kendisi hukuken avukat değildir.

LLM nerelerde kullanılır?

• İçerik ve metin üretimi

• Kod yazma ve kod açıklama

• Doküman özetleme

• Müşteri destek sistemleri

• Metin sınıflandırma

• Bilgi çıkarma

• Arama ve soru-cevap sistemleri

• Eğitim uygulamaları

• Hukuk ve finans gibi uzmanlık alanlarına yönelik yardımcı sistemler

Bu kullanım alanlarının başarısı yalnızca seçilen modele bağlı değildir. Veri kalitesi, istem tasarımı, bağlam yönetimi, doğrulama mekanizmaları ve uygulamanın mimarisi de belirleyici olur.

LLM nasıl kullanılır?

LLM nasıl kullanılır sorusunun cevabı kullanım amacına göre değişir. Basit bir kullanımda kullanıcı doğrudan bir sohbet arayüzü üzerinden istem gönderir. Daha gelişmiş uygulamalarda ise model bir API aracılığıyla yazılıma bağlanabilir.

Örneğin bir kurumsal uygulama, kullanıcının sorusunu önce sınıflandırabilir, ilgili belgeleri bulabilir, bunları modele bağlam olarak aktarabilir ve üretilen cevabı bir doğrulama katmanından geçirebilir.

Burada Prompt Engineering de devreye girer. İyi tasarlanmış bir istem; modelin görevi, bağlamı, çıktı formatını ve kısıtlamaları daha net anlamasına yardımcı olabilir.

LLM ile neler yapılabilir sorusunun kapsamı bu nedenle yalnızca metin yazmakla sınırlı değildir. Model, daha büyük bir yazılım mimarisinin dil işleme katmanı olarak da görev yapabilir.

LLM'lerin Teknik Sınırları

LLM'ler güçlü dil üretim yeteneklerine rağmen hatasız bilgi motorları değildir. Modelin olasılıksal çalışma yapısı bazı durumlarda gerçeğe aykırı veya doğrulanması gereken yanıtlar üretmesine neden olabilir.

Bu problem hallucination, Türkçede ise halüsinasyon olarak adlandırılır. Model, dil açısından ikna edici görünen fakat gerçekte yanlış olan bir bilgi, kaynak veya açıklama oluşturabilir.

Bağlam penceresinin sınırları da başka bir teknik kısıt oluşturur. Modelin tek bir işlem sırasında değerlendirebildiği token miktarı kullanılan mimariye ve model sürümüne göre değişir. Çok uzun belgelerde hangi bilgilerin bağlama dahil edildiği, modelin yanıt kalitesini doğrudan etkileyebilir.

Bu noktada RAG gibi mimariler, modelin harici bilgi kaynaklarından ilgili içeriği getirerek yanıt üretmesine yardımcı olabilir. Fine-Tuning ise farklı bir problemi çözer; modelin davranışını veya belirli görevlerdeki yeteneğini değiştirmeye yöneliktir.

LLM, RAG ve Fine-Tuning Arasındaki Temel Ayrım

RAG ve Fine-Tuning birbirinin doğrudan alternatifi değildir. Bir uygulamada ikisi birlikte de kullanılabilir. RAG dış bilgiye erişim sorununu ele alırken Fine-Tuning modelin davranış biçimine veya belirli görevlerdeki yeteneğine odaklanabilir.