İçeriğe geç
parazade
Yapay Zeka

PEFT Nedir?

İngilizce: Parameter-Efficient Fine-Tuning

Yayın: · Son güncelleme:

PEFT Nedir? Kısaca

PEFT (Parameter-Efficient Fine-Tuning), büyük bir yapay zekâ modelini tüm ağırlıklarını yeniden eğitmeden, yalnızca küçük bir parametre kümesini güncelleyerek ya da modele küçük ek parçalar ekleyerek yeni bir göreve uyarlayan ince ayar yöntemlerinin genel adıdır.

PEFT nedir?
İçindekiler
  1. PEFT nedir, neden gerekir?
  2. Başlıca PEFT yöntemleri
  3. Nelere dikkat etmeli?

PEFT, Türkçede "parametre verimli ince ayar" demektir. Modelin milyarlarca ağırlığının büyük kısmı dondurulur; yalnızca küçük bir bölüm ya da sonradan eklenen küçük katmanlar eğitilir. Böylece klasik ince ayara göre çok daha az bellek, işlem gücü ve depolama gerekir.

PEFT nedir, neden gerekir?

Tam ince ayarda modelin bütün parametreleri güncellenir. Bu, büyük modellerde güçlü ekran kartları ve her görev için modelin tam bir kopyasını saklamayı gerektirir. PEFT ise ana modeli olduğu gibi bırakır ve göreve özgü küçük bir "ek" üretir. Bu ek çoğu zaman ana modelin boyutunun çok küçük bir kesridir.

Başlıca PEFT yöntemleri

  • LoRA: Ağırlık güncellemelerini düşük ranklı iki küçük matrisle temsil eder; en yaygın yöntemdir.
  • QLoRA: LoRA'yı 4 bitlik nicelenmiş bir temel model üzerinde uygular.
  • Adaptörler: Katmanların arasına küçük eğitilebilir modüller ekler.
  • Prefix tuning ve prompt tuning: Modelin girdisine ya da katmanlarına eğitilebilir "sanal token" vektörleri ekler.

Nelere dikkat etmeli?

PEFT her zaman tam ince ayar kadar iyi sonuç vermeyebilir; özellikle model temelden yeni bir bilgi alanı öğrenecekse fark büyüyebilir. Yöntem seçimi; veri miktarına, donanıma ve görevin türüne bağlıdır. Avantajı, aynı temel model üzerinde farklı görevler için birçok küçük eki saklayıp gerektiğinde değiştirebilmendir. Veri kalitesi yine belirleyicidir: az sayıda parametre eğitmek, kötü veriyle iyi sonuç almayı sağlamaz.

Sıkça Sorulan Sorular

PEFT ile LoRA arasındaki fark nedir?

PEFT bir yöntemler ailesinin genel adıdır; LoRA ise bu ailenin en yaygın üyelerinden biridir. Yani her LoRA uygulaması bir PEFT yöntemidir, ama her PEFT yöntemi LoRA değildir.

PEFT ile eğitilen model ne kadar yer kaplar?

Ana model değişmediği için ayrıca yalnızca küçük ek dosyası saklanır. Bu dosya, kullanılan yönteme ve ayarlara göre değişse de genellikle tam modelin çok küçük bir bölümü kadardır.

İlgili terimler

LoRA(Low-Rank Adaptation)LoRA (Low-Rank Adaptation), büyük bir yapay zekâ modelinin ağırlıklarını değiştirmeden, üzerine eklenen küçük bir dosyayla modele yeni bir tarz, karakter ya da görev öğretme yöntemidir. Tam eğitime göre çok daha az bellek ve süre gerektirir.QLoRAQLoRA, büyük bir dil modelini 4 bitlik hassasiyete nicelendirip dondurduktan sonra üzerine küçük LoRA adaptörleri eğiten bir ince ayar yöntemidir. Amaç, büyük modelleri çok daha az ekran kartı belleğiyle uyarlayabilmektir.İnce Ayar(Fine-tuning)İnce ayar (fine-tuning), önceden eğitilmiş bir yapay zekâ modelini daha küçük ve göreve özel bir veri kümesiyle yeniden eğiterek belirli bir işe, üsluba veya alana uyarlama işlemidir.Prefix TuningPrefix tuning (önek ayarı), dil modelinin ağırlıklarını dondurup her katmandaki dikkat hesabına eklenen küçük, eğitilebilir sürekli vektörler (önekler) aracılığıyla modeli belirli bir göreve uyarlayan parametre verimli bir ince ayar yöntemidir.Ağırlık(Weight)Ağırlık (weight), yapay sinir ağlarında ve diğer makine öğrenmesi modellerinde her girdinin ya da bağlantının çıktıya ne kadar katkı yapacağını belirleyen ve eğitim sırasında veriden öğrenilen sayısal parametredir.Temel Model(Foundation Model)Temel model, çok geniş ve çeşitli verilerle ön eğitilen, ardından ince ayar veya promptlarla pek çok farklı göreve uyarlanabilen büyük ölçekli yapay zekâ modelidir.