İçeriğe geç
parazade
Yapay Zeka

Model Kartı Nedir?

İngilizce: Model Card

Yayın: · Son güncelleme:

Model Kartı Nedir? Kısaca

Model kartı (model card), bir makine öğrenmesi modelinin ne için geliştirildiğini, hangi verilerle eğitildiğini, nasıl değerlendirildiğini, hangi sınırlara ve risklere sahip olduğunu özetleyen kısa ve standart bir belgedir.

Model Kartı nedir?
İçindekiler
  1. Model kartı nedir?
  2. Neden önemlidir?
  3. Nelere dikkat etmeli?

Model kartı fikri, 2019'da yayımlanan "Model Cards for Model Reporting" başlıklı akademik çalışmayla yaygınlaştı. Amaç, bir modeli kullanacak kişilerin onu bilinçli biçimde değerlendirebilmesiydi. Bugün açık model paylaşım platformlarında hemen her modelin bir kartı bulunur.

Model kartı nedir?

Model kartını bir ilacın prospektüsüne benzetebilirsin. Ürünün ne işe yaradığını, nasıl kullanılacağını, kimler için uygun olmadığını ve olası yan etkilerini anlatır. Tipik bir model kartında şu başlıklar yer alır:

  • Model ayrıntıları: Geliştirici, sürüm, mimari ve lisans.
  • Amaçlanan kullanım: Modelin hangi görevler için tasarlandığı ve hangi kullanımların kapsam dışı olduğu.
  • Eğitim verisi: Verinin kaynağı ve özellikleri.
  • Değerlendirme: Hangi testlerde ve hangi metriklerle ölçüldüğü.
  • Etik hususlar ve sınırlamalar: Bilinen önyargılar, hata türleri ve riskler.

Neden önemlidir?

Model kartı şeffaflık sağlar. Örneğin yalnızca İngilizce veriyle eğitilmiş bir modelin Türkçe metinlerde zayıf kalacağını kart sayesinde baştan öğrenebilirsin. Farklı grupların sonuçlarını ayrı ayrı raporlamak da algoritmik önyargıyı görünür kılar.

Nelere dikkat etmeli?

Model kartları geliştiricinin kendi beyanıdır; bağımsız denetim yerine geçmez. Bazı kartlar eksik ya da yüzeysel olabilir. Bir modeli kullanmadan önce kartı oku, lisans koşullarını kontrol et ve modeli kendi verinle test et. Daha kapsamlı sistemler için hazırlanan sistem kartı da benzer bir amaca hizmet eder.

Sıkça Sorulan Sorular

Model kartında neler yazar?

Genellikle modelin amacı, mimarisi, eğitim verisi, değerlendirme sonuçları, lisansı, bilinen sınırlamaları ve etik riskleri yer alır.

Model kartı zorunlu mu?

Genel olarak bir topluluk standardı ve iyi uygulamadır. Bazı düzenlemeler yapay zekâ sistemleri için belgeleme yükümlülükleri getirebilir; güncel kuralları ilgili mevzuattan kontrol etmek gerekir.

İlgili terimler

Sistem Kartı(System Card)Sistem kartı (system card), bir yapay zekâ modelinin yalnızca kendisini değil, kullanıma sunulduğu sistemin tamamını anlatan; güvenlik değerlendirmelerini, tespit edilen riskleri ve alınan önlemleri açıklayan kapsamlı bir belgedir.Açıklanabilir Yapay Zekâ(Explainable AI)Açıklanabilir yapay zekâ (explainable AI, XAI), bir yapay zekâ modelinin verdiği kararın ya da tahminin hangi etkenlere dayandığını insanların anlayabileceği biçimde ortaya koyan yöntem ve yaklaşımların genel adıdır.Algoritmik Önyargı(Algorithmic Bias)Algoritmik önyargı (algorithmic bias), bir algoritmanın ya da yapay zekâ modelinin verdiği kararların belirli kişi veya grupları sistematik ve haksız biçimde dezavantajlı duruma düşürmesidir. Çoğunlukla eğitim verisindeki dengesizliklerden kaynaklanır.Açık Ağırlıklı Model(Open-weight Model)Açık ağırlıklı model, eğitilmiş parametreleri (ağırlıkları) herkesin indirip kendi donanımında çalıştırabileceği ve çoğu zaman uyarlayabileceği şekilde yayımlanan yapay zekâ modelidir.Eğitim Verisi(Training Data)Eğitim verisi, bir makine öğrenmesi modelinin kalıpları öğrenmek için kullandığı örneklerin bütünüdür; modelin ne bildiğini, ne kadar doğru olduğunu ve hangi önyargıları taşıdığını büyük ölçüde belirler.Harf Çevirisi(Transliteration)Harf çevirisi (transliterasyon), bir yazı sistemindeki metnin, anlamı çevrilmeden başka bir yazı sisteminin harfleriyle yazılmasıdır. Örneğin Kiril alfabesiyle yazılmış bir ismin Latin harflerine aktarılması harf çevirisidir.