AdaLoRA Nedir? LoRA’dan Farkları ve Uyarlanabilir İnce Ayar Mantığı

Önceden eğitilmiş bir yapay zekâ modelini belirli bir göreve uyarlamak, bütün parametrelerini yeniden eğitmeyi gerektirmeyebilir. Parametre açısından verimli ince ayar yöntemleri, modelin büyük bölümünü sabit tutarak daha küçük bir parametre grubuyla öğrenme gerçekleştirmeye odaklanır.

Bu alandaki önemli yaklaşımlardan biri LoRA — Low-Rank Adaptation yöntemidir. LoRA, modelin seçilen ağırlıklarına düşük ranklı güncellemeler ekleyerek eğitilecek parametre sayısını azaltır.

AdaLoRA — Adaptive Low-Rank Adaptation, bu yaklaşımı bütçe dağılımı açısından geliştirir. Temel sorusu şudur: Modelin farklı bölümleri aynı miktarda uyarlama kapasitesine gerçekten ihtiyaç duyar mı?

2023 yılında yayımlanan AdaLoRA araştırması, ağırlık matrisleri arasında eşit dağıtılan güncelleme bütçesinin her görev için verimli olmayabileceğinden hareket eder. Yöntem, önem puanlarına göre bu bütçeyi uyarlamayı hedefler.

AdaLoRA Nedir?

AdaLoRA, Parameter-Efficient Fine-Tuning, kısaca PEFT, yöntemleri arasında yer alan uyarlanabilir bir ince ayar yaklaşımıdır.

Modelin seçilen ağırlıklarına eklenen düşük ranklı güncellemelerin kapasitesini, eğitim sırasında elde edilen sinyallere göre düzenler. Daha önemli görülen güncelleme bileşenleri korunurken daha düşük katkı sağladığı değerlendirilen bileşenler budanır.

Buradaki “önem”, bir katmanın her durumda daha değerli olması anlamına gelmez. Kullanılan veri, görev ve eğitim sürecine bağlı bir değerlendirmedir. Örneğin belge sınıflandırma için yararlı bulunan dağılım, özetleme görevinde aynı sonucu vermeyebilir.

AdaLoRA’nın hedefi, belirlenen bütçeyi görev açısından daha verimli kullanmaktır. Eğitim sonunda matematiksel olarak mümkün olan en iyi dağılımın kesin olarak bulunduğunu söylemek doğru değildir.

Önce LoRA’yı Anlamak: Düşük Rank Ne Demektir?

LoRA, büyük bir ağırlık matrisinin tamamını eğitmek yerine, ona eklenecek güncellemeyi daha küçük iki matris üzerinden öğrenir. Ana modelin ilgili ağırlıkları sabit tutulurken bu ek matrisler eğitilir.

Buradaki rank, güncellemenin temsil kapasitesini belirleyen boyutlardan biridir. Daha yüksek rank, daha fazla eğitilebilir parametre ve daha geniş bir güncelleme kapasitesi sağlayabilir. Ancak daha yüksek kapasite, her zaman daha iyi sonuç anlamına gelmez.

Basitleştirilmiş bir örnek düşünelim: 4.096 × 4.096 boyutundaki bir ağırlık matrisi yaklaşık 16,8 milyon parametre içerir. Bu matrise rank değeri 8 olan klasik bir LoRA güncellemesi eklendiğinde, iki ek matris toplam 65.536 parametre içerir.

Bu hesap yalnızca ilgili matrisin adaptör parametrelerini karşılaştırır. Modelin toplam belleğini veya eğitimin bütün maliyetini göstermez. Yine de düşük rank yaklaşımının neden daha küçük bir eğitilebilir parametre grubu oluşturabildiğini açıklamaya yardımcı olur.

Klasik LoRA Her Katmana Aynı Rank Değerini mi Verir?

LoRA hakkında sık yapılan genellemelerden biri, bütün katmanlara zorunlu olarak aynı rank değerini verdiğidir. Bu ifade tam olarak doğru değildir.

Yaygın yapılandırmalarda seçilen hedef modüllere aynı rank değeri atanabilir. Ancak LoRA’nın bütün model katmanlarına uygulanması zorunlu değildir. Ayrıca farklı modüller için farklı rank değerleri önceden belirlenebilir.

Hugging Face PEFT dokümantasyonundaki rank_pattern seçeneği, katman veya modül isimlerine göre farklı rank değerleri tanımlanmasına olanak verir.

Dolayısıyla temel farkı şöyle ifade etmek daha doğrudur:

Standart LoRA’da rank dağılımı genellikle eğitim öncesinde belirlenir. AdaLoRA ise dağılımı eğitim sırasında önem değerlendirmesine göre uyarlamayı amaçlar.

Bu ayrım, AdaLoRA’yı “LoRA’nın her koşulda daha iyi sürümü” olarak tanımlamadan, hangi soruna odaklandığını açıklar.

AdaLoRA Nasıl Çalışır?

AdaLoRA, ağırlık güncellemesini tekil değer ayrışımına, yani SVD’ye benzer bir biçimde parametreleştirir. Bu yapı, güncellemenin farklı bileşenlerinin önemini değerlendirmeyi ve düşük puanlı bileşenleri budamayı kolaylaştırır.

Yöntem, her adımda büyük ağırlık matrislerine maliyetli bir tam SVD işlemi uygulamak üzerine kurulmaz. Bunun yerine öğrenilebilir faktörlerden yararlanır.

Eğitim süreci genel olarak üç aşamada ele alınır:

Başlangıç aşaması: Adaptörler öğrenmeye başlar. İlk aşamada rank bütçesi azaltılmadan, sonraki değerlendirmeler için öğrenme sinyalleri oluşur.

Bütçe dağıtımı aşaması: Bileşenlerin önem puanları değerlendirilir ve toplam rank bütçesi hedefe doğru azaltılır. Daha önemli görülen modüller, diğerlerine göre daha fazla kapasite koruyabilir.

Son ince ayar aşaması: Dağılım sabitlendikten sonra kalan bileşenlerle eğitim sürdürülür.

Bu nedenle yöntemi yalnızca “önemli katmanların rank değeri sürekli artırılır” şeklinde anlatmak eksik kalır. Tipik süreçte başlangıçta ayrılan kapasite, hedef bütçeye doğru seçici biçimde azaltılır. Önemli olan, kalan kapasitenin nerelerde yoğunlaştığıdır.

Bütçe Dağılımını Bir Örnekle Anlamak

Aynı boyutlarda dört hedef ağırlık matrisi bulunduğunu varsayalım. Sabit ranklı bir yapılandırmada her biri için rank 4 seçilsin. Toplam rank bütçesi bu durumda 16 olur.

Uyarlanabilir dağılımın mantığını göstermek için eğitim sonunda şu varsayımsal tabloyu düşünelim:

Hedef modül	Sabit dağılım	Örnek uyarlanabilir dağılım
A modülü	4	7
B modülü	4	5
C modülü	4	3
D modülü	4	1
Toplam	16	16

Bu tablo gerçek bir deney sonucu değildir. Aynı toplam kapasitenin farklı biçimlerde dağıtılabileceğini anlatır. Böyle bir dağılım için başlangıç kapasitesinin de ilgili değerleri desteklemesi gerekir.

Ayrıca gerçek modellerde modüllerin boyutları farklı olabilir. Bu durumda aynı toplam rank, bire bir aynı parametre sayısı anlamına gelmeyebilir. Karşılaştırma yapılırken gerçek eğitilebilir parametre sayısı ayrıca hesaplanmalıdır.

LoRA ile AdaLoRA Arasındaki Farklar

Özellik	Standart LoRA	AdaLoRA
Rank seçimi	Genellikle eğitim öncesinde belirlenir	Eğitim sırasında önem puanlarıyla uyarlanır
Modüller arası dağılım	Eşit veya önceden tanımlanmış olabilir	Bütçe planına göre değişebilir
Eğitim yönetimi	Daha sade bir adaptör eğitimi sunar	Ek bütçe güncelleme adımları gerektirir
Temel amaç	Az sayıda parametreyle uyarlama	Uyarlama bütçesini daha verimli dağıtma
Sonuç	Göreve ve ayarlara bağlıdır	Göreve, ayarlara ve bütçe planına bağlıdır

Her iki yöntemde de veri kalitesi, hedef modül seçimi ve öğrenme oranı önemlidir. AdaLoRA, bu unsurların doğru belirlenmesi gereksinimini ortadan kaldırmaz.

AdaLoRA Daha Az Bellek mi Kullanır?

AdaLoRA, ana modelin bütün parametrelerinin eğitildiği tam ince ayara kıyasla eğitilen parametre grubunu küçültmeyi amaçlayan bir yöntemdir. Ancak eğitilebilir parametre sayısıyla toplam GPU belleği aynı şey değildir.

Eğitim sırasında ana model ağırlıkları, ara hesaplamalar, gradyanlar ve optimizasyon için tutulan bilgiler de bellekte yer kaplar. Girdi uzunluğu ve aynı anda işlenen örnek sayısı da bellek ihtiyacını etkiler.

Bu nedenle “daha düşük hedef rank, her durumda aynı oranda daha düşük bellek tüketimi sağlar” denemez. AdaLoRA’nın başlangıç kapasitesi ve ek önem takibi gibi işlemler de dikkate alınmalıdır.

Aynı şekilde budanan bir bileşenin maskelenmesi, kullanılan uygulamada belleğin hemen serbest bırakıldığı anlamına gelmeyebilir. Pratik kazanç, eğitim yazılımının bu yapıyı nasıl işlediğine bağlıdır.

AdaLoRA ile QLoRA Aynı mı?

Hayır. İsimleri benzer olsa da odaklandıkları sorunlar farklıdır.

AdaLoRA, düşük ranklı uyarlama bütçesinin hangi ağırlık güncellemelerine dağıtılacağını ele alır.

QLoRA ise nicemlenmiş bir temel model üzerinde düşük ranklı adaptörleri eğiterek bellek ihtiyacını azaltmaya odaklanır. Özgün QLoRA çalışmasında, dondurulmuş 4 bitlik model üzerinden adaptörlere öğrenme sinyali aktarılması temel yaklaşımdır.

Bu iki fikir farklı boyutlarda verimlilik arar. Ancak belirli bir nicemleme yöntemiyle AdaLoRA’nın birlikte sorunsuz çalışacağını varsaymak doğru değildir. Kullanılan model, katman türleri ve kütüphane desteği ayrıca kontrol edilmelidir.

Hugging Face PEFT İçinde Nasıl Destekleniyor?

Hugging Face PEFT, AdaLoRA için yapılandırma ve model araçları sunar. Bunlar arasında başlangıç rankı, hedef ortalama rank ve bütçe güncelleme aralığı gibi ayarlar bulunur.

Özellikle target_r, her modülün eğitim sonunda mutlaka aynı rank değerine sahip olacağı anlamına gelmez; hedef ortalama rankı ifade eder.

Uygulamadaki kritik ayrıntı, bütçe dağıtımının eğitim döngüsünde gerçekten güncellenmesidir. PEFT dokümantasyonu, update_and_allocate() çağrısının eğitim adımlarına dahil edilmesi gerektiğini belirtir. Yalnızca AdaLoRA yapılandırması oluşturmak, uyarlama adımının doğru çalıştığını göstermeyebilir.

Bu yüzden eğitim sonunda yalnızca başarı puanına değil, oluşan rank dağılımına ve gerçek eğitilebilir parametre sayısına da bakılmalıdır.

AdaLoRA Hangi Görevlerde Değerlendirilebilir?

AdaLoRA’nın özgün kod deposunda DeBERTaV3-base ve BART-large üzerinde örnekler bulunmaktadır. Bunlar doğal dil anlama, soru yanıtlama ve özetleme gibi görevleri kapsamaktadır.

Bu örnekler, yöntemin araştırıldığı alanları gösterir. Ancak buradan bütün Llama, Gemma veya Qwen sürümlerinde aynı ayarlarla çalışacağı sonucu çıkarılamaz.

Yeni bir modelde kullanım değerlendirilirken hedef katmanların desteklenmesi, adaptörlerin doğru eklenmesi ve eğitim sürecinin uyarlanması gerekir. Benzer şekilde görüntü modelleri için de belirli bir uygulama veya araştırma desteği gösterilmeden genel uyumluluk iddiasında bulunulmamalıdır.

Kurumsal belge sınıflandırma veya belirli biçimde yanıt üretme gibi görevler, deney tasarlanabilecek örneklerdir. Yöntemin uygunluğu, gerçek veriler üzerinde ölçülmelidir.

LoRA’dan Daha İyi Sonuç Verir mi?

AdaLoRA araştırması, incelenen görevlerde özellikle düşük bütçeli koşullarda karşılaştırılan yöntemlere göre iyileşmeler bildirmektedir. Bu, her model ve veri seti için üstünlük garantisi değildir.

Adil bir karşılaştırmada şu unsurlar birlikte değerlendirilmelidir:

• Aynı eğitim ve değerlendirme verileri.

• Benzer parametre bütçeleri.

• Öğrenme oranı ve eğitim süresi.

• Hedef modüllerin seçimi.

• Toplam GPU belleği ve çalışma süresi.

• Göreve uygun başarı ölçütleri.

Örneğin doğrulukta küçük bir artış, çok daha uzun eğitim süresiyle elde ediliyorsa işletme açısından tercih edilmeyebilir. Buna karşılık çok sınırlı adaptör bütçesinde sağlanan anlamlı bir iyileşme değerli olabilir.

AdaLoRA’nın Sınırları Nelerdir?

AdaLoRA, eğitim sürecine ek ayarlar ve takip gereksinimleri getirir. Bütçenin ne zaman azaltılacağı ve son dağılımla ne kadar eğitim yapılacağı sonuçları etkileyebilir.

Daha karmaşık bir eğitim akışı, hataların fark edilmesini de zorlaştırabilir. Uyarlama adımının çalışmaması veya yanlış hedef modüllerin seçilmesi, beklenen davranışın oluşmasını engelleyebilir.

Ayrıca hiçbir adaptör yöntemi düşük kaliteli veriyi kendiliğinden düzeltmez. Yanlış etiketlenmiş örnekler, çelişkili talimatlar veya değerlendirme verisinin eğitime karışması, başarılı görünen ama gerçek kullanımda zayıf kalan sonuçlara yol açabilir.

AdaLoRA’nın sağladığı esneklik, dikkatli deney tasarımını daha az önemli hale getirmez. Yöntemi değerlendirirken performans kazancı ile eğitim ve bakım karmaşıklığı birlikte ele alınmalıdır.

Sık Sorulan Sorular

AdaLoRA bir büyük dil modeli mi?

Hayır. Önceden eğitilmiş modellerin uyarlanmasında kullanılan bir ince ayar yöntemidir.

AdaLoRA bütün model katmanlarını değiştirir mi?

Zorunlu olarak hayır. Adaptörlerin hangi modüllere uygulanacağı yapılandırmaya bağlıdır. Ana modelin büyük bölümü sabit tutulabilir.

LoRA’da farklı katmanlara farklı rank verilebilir mi?

Evet. Farklı rank değerleri önceden tanımlanabilir. AdaLoRA’nın ayırt edici yönü, bütçe dağılımını eğitim sırasında uyarlamasıdır.

AdaLoRA modeli tamamen küçültür mü?

Temel amacı, ana modelin tüm parametrelerini azaltmak değildir. İnce ayar için kullanılan ek güncelleme kapasitesini yönetir. Adaptör boyutu ile temel model boyutu farklı kavramlardır.

AdaLoRA her zaman daha hızlı eğitilir mi?

Hayır. Ek bütçe yönetimi işlemleri bulunur. Gerçek süre; model, donanım, veri ve uygulama ayrıntılarına bağlıdır.

AdaLoRA seçerken en önemli ölçüt nedir?

Belirlenen görevde, kabul edilebilir kaynak kullanımıyla ölçülebilir bir fayda sağlayıp sağlamadığıdır. Yalnızca daha gelişmiş görünmesi, tercih edilmesi için yeterli değildir.

Kaynaklar

AdaLoRA: Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning, LoRA: Low-Rank Adaptation of Large Language Models, QLoRA: Efficient Finetuning of Quantized LLMs, Hugging Face PEFT AdaLoRA dokümantasyonu, Hugging Face PEFT LoRA dokümantasyonu, AdaLoRA resmî araştırma kod deposu.

Editör Notu

Bu içerik, kamuya açık akademik araştırmalar, resmî yazılım dokümantasyonu ve açık kaynak uygulamalardan yararlanılarak hazırlanmış bir araştırma ve değerlendirme yazısıdır. İçerikte yer alan görüşler editoryal yorum niteliğindedir. Performans ve kaynak kullanımı; model, veri seti, donanım ve eğitim ayarlarına göre değişebilir. Teknik uygulamalarda kullanılan kütüphane sürümünün ve güncel dokümantasyonun kontrol edilmesi önerilir.