Rastgele Arama Nedir?
İngilizce: Random Search
Yayın: · Son güncelleme:
Rastgele Arama Nedir? Kısaca
Rastgele arama (random search), hiperparametre optimizasyonunda olası değer kombinasyonlarını tek tek denemek yerine, belirlenen aralıklardan rastgele örnekler çekerek en iyi ayarı arayan yöntemdir.
Rastgele arama, model ayarlarını bulmak için kullanılan basit ama etkili bir yöntemdir. Her hiperparametre için bir değer aralığı ya da dağılım belirlenir, sonra bu aralıklardan rastgele kombinasyonlar seçilip denenir.
Rastgele arama nedir?
Izgara aramada her hiperparametre için birkaç değer seçilir ve tüm kombinasyonlar denenir. Örneğin 3 hiperparametrenin her biri için 5 değer, 125 deneme demektir. Rastgele aramada ise toplam deneme sayısını sen belirlersin (ör. 30) ve her denemede değerler rastgele çekilir.
Neden işe yarar?
Pratikte hiperparametrelerin hepsi model başarısını eşit etkilemez; genellikle birkaçı belirleyicidir. Izgara aramada önemli bir hiperparametre yalnızca birkaç farklı değerde denenir, çünkü diğer kombinasyonlar aynı değerleri tekrarlar. Rastgele aramada ise her deneme, önemli hiperparametre için yeni bir değer dener. Bu nedenle aynı bütçeyle önemli boyutta çok daha geniş bir tarama yapılır. Bu gözlem, 2012'de yayımlanan ve alanda sık atıf alan bir çalışmayla yaygınlık kazanmıştır.
Örnek
Varsayımsal bir modelde öğrenme oranı için 0,0001 ile 0,1 arası (logaritmik ölçekte), dropout için 0,1 ile 0,5 arası seçilir. 40 rastgele kombinasyon denenir ve doğrulama setinde en iyi sonucu veren ayar seçilir.
Avantajları ve sınırları
| Avantaj | Sınır |
|---|---|
| Uygulaması çok kolay | Önceki denemelerden öğrenmez |
| Denemeler paralel yürütülebilir | Şans faktörü vardır; en iyi nokta kaçırılabilir |
| Deneme bütçesi esnektir | Çok pahalı modellerde verimsiz kalabilir |
Rastgele arama genellikle iyi bir başlangıç noktasıdır. Daha akıllı bir arama gerekiyorsa Bayesçi optimizasyon gibi yöntemlere geçilebilir. Genel çerçeve için hiperparametre optimizasyonu maddesine bakabilirsin.
Sıkça Sorulan Sorular
Rastgele arama ızgara aramadan her zaman daha mı iyi?
Her zaman değil. Az sayıda hiperparametre ve küçük bir arama alanı varsa ızgara arama yeterli olabilir. Hiperparametre sayısı arttıkça rastgele arama genellikle daha verimli hâle gelir.
Rastgele aramada kaç deneme yapılmalı?
Kesin bir sayı yoktur; hesaplama bütçesine ve arama alanının büyüklüğüne bağlıdır. Birkaç düzine deneme çoğu zaman makul bir başlangıç sağlar.