Elastic Net Nedir?

Elastic net, iki popüler düzenlileştirme yöntemini, lasso ve ridge regresyonu tek bir modelde birleştirir. Amaç, her ikisinin güçlü yanlarından yararlanıp zayıf yanlarını dengelemektir.

Elastic net nedir?

Elastic net, doğrusal regresyonun hata fonksiyonuna iki ceza birden ekler:

Toplam kayıp = hata + λ × [ α × (mutlak değerler toplamı) + (1 − α) × (kareler toplamı) ]

• λ: Toplam cezanın gücü.
• α: L1 ve L2 cezalarının karışım oranı. α = 1 iken model lasso'ya, α = 0 iken ridge'e dönüşür. (Formülün tam yazımı yazılıma göre küçük farklar gösterebilir.)

Neden ihtiyaç duyulur?

Lasso, gereksiz özelliklerin katsayısını sıfırlayarak özellik seçimi yapar. Ancak birbirine çok benzeyen bir grup özellik olduğunda genellikle yalnızca birini seçer ve hangisini seçtiği veriye göre kolayca değişebilir. Ridge ise tüm özellikleri tutar ama hiçbirini çıkarmaz.

Elastic net bu iki davranışın arasında durur:

• Lasso bileşeni sayesinde bazı katsayılar sıfırlanır.
• Ridge bileşeni sayesinde birbirine bağlı özellikler gruplar hâlinde birlikte tutulma eğilimindedir ve sonuçlar daha kararlıdır.

Ne zaman kullanılır?

• Özellik sayısının gözlem sayısına yakın ya da ondan fazla olduğu durumlarda, örneğin genetik verilerde.
• Pek çok özelliğin birbirine güçlü biçimde bağlı olduğu veri setlerinde.

Nelere dikkat etmeli?

İki hiperparametre (λ ve α) birlikte ayarlanmalıdır; bu genellikle çapraz doğrulama ile bir değer ızgarası taranarak yapılır. Diğer cezalı modellerde olduğu gibi özelliklerin önceden aynı ölçeğe getirilmesi gerekir.