İçeriğe geç
parazade
Yapay Zeka

Algoritmik Önyargı Nedir?

İngilizce: Algorithmic Bias

Yayın: · Son güncelleme:

Algoritmik Önyargı Nedir? Kısaca

Algoritmik önyargı (algorithmic bias), bir algoritmanın ya da yapay zekâ modelinin verdiği kararların belirli kişi veya grupları sistematik ve haksız biçimde dezavantajlı duruma düşürmesidir. Çoğunlukla eğitim verisindeki dengesizliklerden kaynaklanır.

Algoritmik Önyargı nedir?
İçindekiler
  1. Nereden kaynaklanır?
  2. Örnek
  3. Nasıl azaltılır?

Algoritmik önyargı, bir sistemin tarafsız görünmesine rağmen bazı gruplar aleyhine tutarlı biçimde farklı sonuçlar üretmesidir. Algoritmalar kendi başına "niyet" taşımaz; ancak öğrendikleri veriler ve kendilerine verilen hedefler toplumdaki eşitsizlikleri yansıtabilir, hatta büyütebilir.

Nereden kaynaklanır?

  • Eğitim verisi: Eğitim verisi bazı grupları az temsil ediyorsa model onlar için daha kötü sonuç verir. Örneğin ağırlıklı olarak açık tenli yüzlerle eğitilmiş bir görüntü modeli diğer ten renklerinde daha çok hata yapabilir.
  • Geçmişteki kararlar: Geçmişte ayrımcı yapılmış işe alım ya da kredi kararlarıyla eğitilen model, bu kalıbı tekrarlar.
  • Vekil değişkenler: Cinsiyet ya da etnik köken doğrudan kullanılmasa bile posta kodu, okul adı gibi değişkenler bunların yerine geçebilir.
  • Etiketleme: Verileri etiketleyen insanların yargıları modele aktarılabilir.
  • Ölçüt seçimi: Yalnızca genel doğruluğa bakmak, küçük gruplardaki yüksek hata oranlarını gizleyebilir.

Örnek

Varsayımsal bir işe alım modeli, geçmiş yıllarda çoğunlukla belirli bir profilden kişilerin işe alındığı verilerle eğitilmiş olsun. Model bu profile benzemeyen ama yetkin adayları düşük puanlayabilir. Kimse bilinçli bir ayrımcılık yapmamış olsa bile sonuç ayrımcıdır.

Nasıl azaltılır?

  • Veri setinin farklı grupları dengeli temsil edip etmediğini incelemek
  • Sonuçları gruplara ayırarak ayrı ayrı ölçmek (model değerlendirme)
  • Kararların gerekçesini anlamaya yarayan açıklanabilirlik araçları kullanmak
  • Önemli kararlarda insan denetimi ve itiraz yolu sağlamak
  • Sistemi devreye aldıktan sonra da düzenli denetlemek

Bir yapay zekâ kararından etkilendiğini düşünüyorsan, kurumdan kararın gerekçesini ve itiraz yolunu sorman makul bir adımdır.

Sıkça Sorulan Sorular

Algoritmalar insanlardan daha mı tarafsızdır?

Her zaman değil. Algoritmalar tutarlıdır ama önyargılı veriyle eğitildiklerinde bu önyargıyı çok sayıda karara aynı anda yayabilirler. Tarafsızlık ölçülerek ve denetlenerek sağlanmalıdır.

Hassas bilgiyi veriden çıkarmak önyargıyı giderir mi?

Tek başına yetmez. Posta kodu ya da okul gibi başka değişkenler hassas bilginin yerine geçebilir. Sonuçların gruplara göre ayrı ayrı ölçülmesi gerekir.

İlgili terimler

Yapay Zekâ Etiği(AI Ethics)Yapay zekâ etiği, yapay zekâ sistemlerinin geliştirilmesi ve kullanılmasında adalet, şeffaflık, gizlilik, güvenlik ve hesap verebilirlik gibi değerleri gözeten ilke ve uygulamaların bütünüdür.Eğitim Verisi(Training Data)Eğitim verisi, bir makine öğrenmesi modelinin kalıpları öğrenmek için kullandığı örneklerin bütünüdür; modelin ne bildiğini, ne kadar doğru olduğunu ve hangi önyargıları taşıdığını büyük ölçüde belirler.Açıklanabilir Yapay Zekâ(Explainable AI)Açıklanabilir yapay zekâ (explainable AI, XAI), bir yapay zekâ modelinin verdiği kararın ya da tahminin hangi etkenlere dayandığını insanların anlayabileceği biçimde ortaya koyan yöntem ve yaklaşımların genel adıdır.Model Değerlendirme(Model Evaluation)Model değerlendirme (model evaluation), bir yapay zekâ modelinin belirli bir görevdeki başarısını, güvenilirliğini, adaletini ve güvenliğini; test verileri, metrikler, karşılaştırma testleri ve insan incelemesiyle ölçme sürecidir.Görüntü Tanıma(Image Recognition)Görüntü tanıma (image recognition), bir yapay zekâ sisteminin fotoğraf ya da videodaki nesneleri, yüzleri, hayvanları, yazıları veya sahneleri tespit edip tanımlamasıdır. Bilgisayarlı görünün temel görevlerinden biridir.Yapay Zekâ Okuryazarlığı(AI Literacy)Yapay zekâ okuryazarlığı (AI literacy), yapay zekânın temel olarak nasıl çalıştığını anlama, araçları amaca uygun ve güvenli biçimde kullanma, çıktılarını eleştirel değerlendirme ve etik riskleri fark etme becerilerinin bütünüdür.