Batch Size Nedir?

Batch size (yığın boyutu), model eğitiminin her adımında aynı anda işlenen örnek sayısıdır. Model, bu gruptaki örneklerin ortalama hatasına bakarak parametrelerini bir kez günceller. Batch size, eğitimden önce belirlenen bir hiperparametredir.

Nasıl çalışır?

Varsayımsal olarak 1.000 fotoğraflık bir veri kümen ve 50'lik bir batch size olsun:

• Model 50 fotoğrafı birlikte işler, ortalama kaybı hesaplar ve ağırlıkları günceller.
• Ardından sonraki 50 fotoğrafa geçer.
• 20 adım sonunda tüm veri bir kez görülmüş olur; bu bir epoch demektir.

Küçük ve büyük batch karşılaştırması

	Küçük batch	Büyük batch
Bellek ihtiyacı	Düşük	Yüksek
Her adımın gürültüsü	Fazla	Az
Donanım verimliliği	Düşük	Yüksek (GPU'yu daha iyi kullanır)
Genelleme	Çoğu zaman iyi	Ayar gerektirebilir

Küçük batch'lerdeki "gürültü", bazen modelin kötü noktalara takılmasını engelleyerek genellemeye yardımcı olur. Büyük batch'ler ise donanımı daha verimli kullanır ama genellikle öğrenme oranının da buna göre ayarlanmasını gerektirir.

Nasıl seçilir?

1. Önce ekran kartının belleğine sığan en büyük değer belirlenir; "bellek yetersiz" hatası alıyorsan batch size'ı düşürmen gerekir.
2. Genellikle 8, 16, 32, 64 gibi ikinin kuvvetleri tercih edilir.
3. Bellek yetmiyorsa gradyan biriktirme ile birkaç küçük batch'in gradyanı toplanıp büyük batch etkisi elde edilebilir.

Not: Çıkarım sırasındaki "batch" ise birden fazla isteğin birlikte işlenmesini anlatır; amaç donanımı daha verimli kullanmaktır.