İçeriğe geç
parazade
Yapay Zeka

Grad-CAM Nedir?

Yayın: · Son güncelleme:

Grad-CAM Nedir? Kısaca

Grad-CAM (Gradient-weighted Class Activation Mapping), evrişimli bir sinir ağının bir görüntüyü belirli bir sınıfa atarken en çok hangi bölgelere dayandığını, gradyan bilgisini kullanarak ısı haritası biçiminde gösteren açıklama yöntemidir.

Grad-CAM nedir?
İçindekiler
  1. Grad-CAM nedir?
  2. Örnek
  3. Nelere dikkat etmeli?

Grad-CAM, "Gradient-weighted Class Activation Mapping" yani "gradyan ağırlıklı sınıf aktivasyon haritalama" anlamına gelir. Görüntü sınıflandırma modellerinin kararını görsel olarak açıklamak için yaygın kullanılır.

Grad-CAM nedir?

Evrişimli sinir ağları görüntüyü katman katman işler ve son evrişim katmanında, görüntünün farklı bölgelerine karşılık gelen öznitelik haritaları üretir. Grad-CAM, ilgilenilen sınıfın puanının bu haritalara göre gradyanını hesaplar. Gradyanlar, her haritanın o sınıf için ne kadar önemli olduğunu gösterir. Haritalar bu önem değerleriyle ağırlıklandırılıp toplanır ve yalnız olumlu katkılar bırakılır. Sonuç, orijinal görüntünün üzerine bindirilen bir ısı haritasıdır.

Örnek

Varsayımsal bir model bir fotoğrafa "köpek" dediğinde, Grad-CAM haritası köpeğin başında yoğunlaşıyorsa model mantıklı bir yere bakıyor demektir. Harita arka plandaki çimende yoğunlaşıyorsa model, köpeği değil çimeni ezberlemiş olabilir. Bu tür hatalar, eğitim verisindeki gizli önyargıları ortaya çıkarmaya yardım eder.

Nelere dikkat etmeli?

  • Harita çözünürlüğü son evrişim katmanıyla sınırlıdır; ince ayrıntıyı göstermeyebilir.
  • Yöntem modelin nereye baktığını gösterir, neden öyle düşündüğünü tam açıklamaz.
  • Tıbbi görüntü gibi kritik alanlarda uzman değerlendirmesinin yerini tutmaz.
  • Birden fazla nesne içeren görüntülerde her sınıf için ayrı harita üretilip karşılaştırılması daha sağlıklı sonuç verir.

Kısacası Grad-CAM, modelin dikkatini kabaca görmeye yarayan pratik bir kontrol aracıdır.

Sıkça Sorulan Sorular

Grad-CAM yalnız evrişimli ağlarda mı çalışır?

En yaygın kullanımı evrişimli ağlardır. Uyarlanmış sürümlerle başka mimarilere de uygulanabilir, ancak sonuçların yorumu dikkat gerektirir.

Grad-CAM modeli yeniden eğitmeyi gerektirir mi?

Hayır. Eğitilmiş modelin gradyanlarını ve aktivasyonlarını kullandığı için model yapısını değiştirmeden uygulanabilir.

İlgili terimler

Evrişimli Sinir Ağı(Convolutional Neural Network)Evrişimli sinir ağı (CNN), görüntü gibi ızgara yapılı verilerde küçük filtreleri veri üzerinde kaydırarak kenar, doku ve şekil gibi özellikleri katman katman öğrenen bir derin öğrenme mimarisidir.Açıklanabilir Yapay Zekâ(Explainable AI)Açıklanabilir yapay zekâ (explainable AI, XAI), bir yapay zekâ modelinin verdiği kararın ya da tahminin hangi etkenlere dayandığını insanların anlayabileceği biçimde ortaya koyan yöntem ve yaklaşımların genel adıdır.Dikkat Haritası(Attention Map)Dikkat haritası, transformer gibi dikkat mekanizması kullanan bir modelin bir çıktıyı üretirken girdinin hangi parçalarına ne kadar ağırlık verdiğini gösteren, genellikle ısı haritası biçiminde sunulan görselleştirmedir.Isı Haritası(Heatmap)Isı haritası (heatmap), bir tablodaki ya da bir yüzeydeki sayısal değerleri renk tonlarıyla gösteren görselleştirme türüdür. Yüksek ve düşük değerlerin nerede yoğunlaştığını tek bakışta fark etmeyi sağlar.Evrişim(Convolution)Evrişim (convolution), küçük bir filtrenin bir görüntü ya da sinyal üzerinde kaydırılarak her konumda çarpım ve toplama yapıldığı matematiksel işlemdir. Derin öğrenmede kenar, doku ve şekil gibi yerel desenleri yakalamak için evrişimli sinir ağlarının temelini oluşturur.Harf Çevirisi(Transliteration)Harf çevirisi (transliterasyon), bir yazı sistemindeki metnin, anlamı çevrilmeden başka bir yazı sisteminin harfleriyle yazılmasıdır. Örneğin Kiril alfabesiyle yazılmış bir ismin Latin harflerine aktarılması harf çevirisidir.