İçeriğe geç
parazade
Yapay Zeka

DenseNet Nedir?

Yayın: · Son güncelleme:

DenseNet Nedir? Kısaca

DenseNet (Densely Connected Convolutional Network), bir blok içindeki her katmanın kendinden önceki tüm katmanların çıktılarını girdi olarak aldığı, özelliklerin yeniden kullanımını artıran ve görüntü sınıflandırmada kullanılan bir evrişimli sinir ağı mimarisidir.

DenseNet nedir?
İçindekiler
  1. DenseNet nedir?
  2. Nasıl çalışır?
  3. ResNet'ten farkı
  4. Avantajları ve sınırları

DenseNet, "yoğun bağlantılı evrişimli ağ" anlamına gelen bir derin öğrenme mimarisidir. 2017'de tanıtıldı ve görüntü sınıflandırmada az parametreyle güçlü sonuçlar vermesiyle dikkat çekti.

DenseNet nedir?

Klasik bir evrişimli sinir ağında her katman yalnızca bir önceki katmanın çıktısını alır. DenseNet'te ise bir "yoğun blok" içindeki her katman, kendinden önceki tüm katmanların çıktı haritalarını birleştirerek (birleştirme/concatenation) girdi olarak kullanır. Böylece L katmanlı bir blokta L(L+1)/2 doğrudan bağlantı oluşur.

Nasıl çalışır?

  • Yoğun bloklar: Her katman az sayıda yeni özellik haritası üretir; bu sayıya "büyüme oranı" denir. Yeni haritalar mevcutların yanına eklenir.
  • Geçiş katmanları: Bloklar arasında 1×1 evrişim ve havuzlama ile boyut küçültülür, böylece hesaplama kontrol altında tutulur.
  • Darboğaz yapıları: Hesap yükünü azaltmak için 3×3 evrişimden önce 1×1 evrişim kullanılabilir.

ResNet'ten farkı

ResNet da atlama bağlantıları kullanır, ancak önceki katmanın çıktısını yeni çıktıya toplar. DenseNet ise çıktıları yan yana ekler; bilgi kaybolmadan sonraki katmanlara taşınır.

Özellik ResNet DenseNet
Bağlantı Toplama Birleştirme
Özellik yeniden kullanımı Sınırlı Yüksek
Parametre verimliliği İyi Çok iyi

Avantajları ve sınırları

Avantajları arasında kaybolan gradyan sorununun hafiflemesi, özelliklerin yeniden kullanılması ve görece az parametre bulunur. Öte yandan birleştirilen özellik haritaları büyüdükçe bellek kullanımı artar; bu yüzden eğitim sırasında bellek açısından maliyetli olabilir. Tıbbi görüntü analizi gibi alanlarda hâlâ sık kullanılan bir temel mimaridir.

Sıkça Sorulan Sorular

DenseNet'teki büyüme oranı ne demektir?

Büyüme oranı, yoğun blok içindeki her katmanın ürettiği yeni özellik haritası sayısıdır. Bu değer küçük tutulur, çünkü her katman zaten önceki tüm katmanların özelliklerine erişebilir.

DenseNet hangi alanlarda kullanılır?

Başta görüntü sınıflandırma olmak üzere tıbbi görüntü analizi, nesne tespiti ve bölütleme gibi görevlerde temel ağ olarak kullanılır. Az parametreyle iyi sonuç vermesi onu sınırlı veri bulunan alanlarda cazip kılar.

İlgili terimler

ResNetResNet (Residual Network, artık ağ), katmanların girdisini kısa yoldan çıktısına ekleyen artık bağlantılar kullanan bir evrişimli sinir ağı mimarisidir. Bu basit fikir, çok derin ağların kararlı biçimde eğitilmesini sağladı ve görüntü tanımada bir dönüm noktası oldu.Evrişimli Sinir Ağı(Convolutional Neural Network)Evrişimli sinir ağı (CNN), görüntü gibi ızgara yapılı verilerde küçük filtreleri veri üzerinde kaydırarak kenar, doku ve şekil gibi özellikleri katman katman öğrenen bir derin öğrenme mimarisidir.Kaybolan Gradyan Problemi(Vanishing Gradient Problem)Kaybolan gradyan problemi, derin sinir ağlarında geri yayılım sırasında gradyanların katmanlar boyunca küçüle küçüle sıfıra yaklaşması ve bu yüzden ilk katmanların neredeyse hiç öğrenememesidir. Uygun aktivasyon fonksiyonları ve mimari çözümlerle hafifletilir.Derin Öğrenme(Deep Learning)Derin öğrenme, çok sayıda katmandan oluşan yapay sinir ağlarıyla veriden karmaşık kalıpları otomatik olarak öğrenen bir makine öğrenmesi yaklaşımıdır.Özellik(Feature)Özellik (feature), makine öğrenmesinde her bir örneği tanımlayan ve modelin tahmin yaparken girdi olarak kullandığı ölçülebilir nitelik ya da değişkendir. Örneğin ev fiyatı tahmininde metrekare, oda sayısı ve konum birer özelliktir.Evrişim(Convolution)Evrişim (convolution), küçük bir filtrenin bir görüntü ya da sinyal üzerinde kaydırılarak her konumda çarpım ve toplama yapıldığı matematiksel işlemdir. Derin öğrenmede kenar, doku ve şekil gibi yerel desenleri yakalamak için evrişimli sinir ağlarının temelini oluşturur.