İçeriğe geç
parazade
Yapay Zeka

Lasso Regresyon Nedir?

İngilizce: Lasso Regression

Yayın: · Son güncelleme:

Lasso Regresyon Nedir? Kısaca

Lasso regresyon, doğrusal regresyonun kayıp fonksiyonuna katsayıların mutlak değerlerinin toplamıyla orantılı bir ceza ekleyen, bu sayede bazı katsayıları tam sıfıra indirip önemsiz özellikleri modelden çıkaran bir düzenlileştirme yöntemidir.

Lasso Regresyon nedir?
İçindekiler
  1. Lasso regresyon nedir?
  2. Neden önemli?
  3. Örnek
  4. Nelere dikkat etmeli?

Lasso regresyon, "Least Absolute Shrinkage and Selection Operator" ifadesinin kısaltmasıdır. L1 düzenlileştirme olarak da bilinir. Hem aşırı öğrenmeyi azaltır hem de hangi özelliklerin gerçekten önemli olduğunu seçmeye yardım eder.

Lasso regresyon nedir?

Lasso, doğrusal regresyonun hata fonksiyonuna şu cezayı ekler:

Toplam kayıp = hata kareleri toplamı + λ × (katsayıların mutlak değerleri toplamı)

λ büyüdükçe katsayılar küçülür. Ridge regresyondan farklı olarak lasso, bazı katsayıları tam olarak sıfıra indirir. Sıfır katsayılı bir özellik, fiilen modelden çıkarılmış olur.

Neden önemli?

Yüzlerce özellik içeren bir veri setinde bunların çoğu gereksiz olabilir. Lasso, otomatik bir özellik seçimi yaparak:

  • Daha sade ve yorumlanabilir modeller üretir.
  • Gereksiz değişkenlerden kaynaklanan gürültüyü azaltır.
  • Tahmin yaparken daha az veri toplanmasını gerektirebilir.

Örnek

Varsayımsal bir ev fiyatı modelinde 50 özellik olsun. Lasso, uygun bir λ ile metrekare, konum ve bina yaşı gibi özellikleri tutup kapı rengi gibi alakasız özelliklerin katsayısını sıfırlayabilir.

Nelere dikkat etmeli?

  • Ölçekleme şart: Ceza katsayı büyüklüğüne bağlı olduğundan özellikler önce standartlaştırılmalıdır.
  • Bağlantılı özellikler: Birbirine çok benzeyen özelliklerden lasso genellikle birini seçip diğerlerini rastgele denebilecek biçimde sıfırlar. Bu durumda elastic net daha kararlı olabilir.
  • λ seçimi: Uygun ceza gücü çapraz doğrulama ile belirlenir.
  • Seçilen özellikler "nedensel olarak önemli" anlamına gelmez; yalnızca bu veride tahmine katkı sağladıklarını gösterir.

Sıkça Sorulan Sorular

Lasso neden bazı katsayıları sıfırlar?

Mutlak değer cezasının geometrik yapısı, en iyi çözümün sık sık eksenler üzerinde, yani bazı katsayıların sıfır olduğu noktalarda çıkmasına yol açar. Ridge'in kare cezasında bu olmaz.

Lasso ne zaman tercih edilir?

Çok sayıda özellik olduğunda ve bunların yalnızca bir kısmının önemli olduğu düşünüldüğünde tercih edilir. Böylece hem tahmin hem de sade bir model elde edilir.

İlgili terimler

Ridge Regresyon(Ridge Regression)Ridge regresyon, doğrusal regresyonun kayıp fonksiyonuna katsayıların karelerinin toplamıyla orantılı bir ceza ekleyen ve böylece katsayıları küçülterek aşırı öğrenmeyi ve çoklu doğrusal bağlantı sorununu azaltan bir düzenlileştirme yöntemidir.Elastic NetElastic net, doğrusal modellerde lasso'nun L1 cezası ile ridge'in L2 cezasını belirli bir oranda birleştiren, hem özellik seçimi yapabilen hem de birbirine bağlı özelliklerde daha kararlı sonuç veren bir düzenlileştirme yöntemidir.Özellik Seçimi(Feature Selection)Özellik seçimi (feature selection), bir veri setindeki tüm özellikler arasından modelin başarısına en çok katkı sağlayanları seçip gereksiz, tekrarlayan ya da gürültülü olanları çıkararak daha sade ve genellenebilir bir model kurma sürecidir.Doğrusal Regresyon(Linear Regression)Doğrusal regresyon, bir hedef değişkeni bir ya da daha fazla bağımsız değişkenin ağırlıklı toplamı ve bir sabitle tahmin eden, ağırlıkları genellikle hata karelerinin toplamını en aza indirerek bulan temel bir istatistik ve makine öğrenmesi yöntemidir.Özellik(Feature)Özellik (feature), makine öğrenmesinde her bir örneği tanımlayan ve modelin tahmin yaparken girdi olarak kullandığı ölçülebilir nitelik ya da değişkendir. Örneğin ev fiyatı tahmininde metrekare, oda sayısı ve konum birer özelliktir.Harf Çevirisi(Transliteration)Harf çevirisi (transliterasyon), bir yazı sistemindeki metnin, anlamı çevrilmeden başka bir yazı sisteminin harfleriyle yazılmasıdır. Örneğin Kiril alfabesiyle yazılmış bir ismin Latin harflerine aktarılması harf çevirisidir.