ResNet Nedir?
Yayın: · Son güncelleme:
ResNet Nedir? Kısaca
ResNet (Residual Network, artık ağ), katmanların girdisini kısa yoldan çıktısına ekleyen artık bağlantılar kullanan bir evrişimli sinir ağı mimarisidir. Bu basit fikir, çok derin ağların kararlı biçimde eğitilmesini sağladı ve görüntü tanımada bir dönüm noktası oldu.
İçindekiler
ResNet nedir?
ResNet, Kaiming He ve arkadaşlarının 2015'te Microsoft Research'te geliştirdiği bir evrişimli sinir ağı mimarisidir. Aynı yıl ImageNet görüntü sınıflandırma yarışmasını kazandı ve 152 katmanlı sürümüyle o güne kadarkilerden çok daha derin bir ağın başarıyla eğitilebileceğini gösterdi. Adındaki "residual", Türkçede "artık" ya da "kalıntı" anlamına gelir.
Hangi sorunu çözdü?
Teoride katman eklemek bir ağı daha güçlü yapmalıdır. Pratikte ise belirli bir derinlikten sonra ağın eğitim hatası bile artmaya başlıyordu. Bunun bir nedeni, gradyanların çok sayıda katmandan geçerken zayıflamasıydı; bu durum kaybolan gradyan problemi ile yakından ilişkilidir.
Nasıl çalışır?
ResNet'in temel yapı taşı artık bloktur:
- Blok, girdiye birkaç evrişim katmanı uygular ve bir sonuç (F(x)) üretir.
- Ardından bu sonuca girdinin kendisi (x) eklenir: çıktı = F(x) + x.
Bu kestirme yol (skip connection) sayesinde blok, girdiyi baştan dönüştürmek yerine yalnızca üzerine eklenecek "farkı" öğrenir. Bir blok gereksizse, F(x)'i sıfıra yakın tutup girdiyi olduğu gibi geçirebilir. Ayrıca gradyanlar geri yayılımda bu kestirme yoldan doğrudan akabilir.
Sürümleri ve kullanım alanları
ResNet-18, ResNet-34, ResNet-50, ResNet-101 ve ResNet-152 gibi sürümleri vardır; sayı katman sayısını gösterir. Görüntü sınıflandırma, nesne tespiti ve bölütleme gibi görevlerde sıkça omurga (backbone) olarak kullanılır.
Neden önemli?
Artık bağlantı fikri yalnızca görüntü modellerinde kalmadı. Transformer dahil birçok modern mimaride her katman bloğunun etrafında benzer bağlantılar bulunur. Bu nedenle ResNet, derin öğrenmenin en etkili fikirlerinden birini yaygınlaştıran çalışma olarak kabul edilir.
Sıkça Sorulan Sorular
ResNet'teki artık bağlantı ne işe yarar?
Bloğun girdisini doğrudan çıktısına ekler. Böylece ağ yalnızca gerekli değişikliği öğrenir ve gradyanlar derin katmanlardan başa doğru daha kolay akar.
ResNet-50'deki 50 ne anlama gelir?
Ağdaki ağırlıklı katmanların yaklaşık sayısını gösterir. Daha yüksek sayı daha derin ve genellikle daha güçlü ama daha fazla hesaplama gerektiren bir model demektir.