Hiper parametreler, makine öğrenmesi ve derin öğrenme algoritmalarında kullanılan, modelin performansını etkileyen ve modelin eğitilmesi sırasında ayarlanabilen parametrelerdir. Örnek olarak, bir sinir ağı modelindeki öğrenme hızı, ağırlık düzenleme parametreleri, epoch sayısı, batch size gibi parametreler hiper parametrelerdir. Hiper parametreler, modelin doğruluğunu, hızını, kayıp değerlerini ve genel performansını etkileyebilir. Bu nedenle, doğru hiper parametrelerin seçilmesi, modelin en iyi performansını göstermesi için önemlidir. Hiper parametre optimizasyonu, farklı hiper parametre değerleriyle modelin eğitilmesi ve doğruluk ölçümlerine göre en iyi hiper parametre değerlerinin seçilmesi işlemidir. Bu optimizasyon işlemi, grid search, random search, bayesian optimizasyon, gradient-based optimization gibi farklı yöntemlerle yapılabilir. Hiper parametre optimizasyonu, doğru yöntem ve verilerle yapıldığında, modelin performansını önemli ölçüde artırabilir. Hiper parametre optimizasyonu için kullanılan bazı yöntemler şunlardır: Grid search: Belirlenmiş bir hiper parametre değerleri kümesi arasında her bir kombinasyonu deneyerek en iyi hiper parametreleri bulmaya çalışır. Random search: Belirlenmiş bir hiper parametre değerleri aralığından rastgele değerler seçerek birkaç kez modeli eğitir ve en iyi hiper parametre kombinasyonunu seçer. Bayesian Optimizasyon: Hiper parametreleri bir olasılık dağılımı ile temsil ederek en iyi hiper parametreleri bulmaya çalışır. Bu yöntem, önceki deneylerden elde edilen bilgileri kullanarak gelecekteki deneylerin verimliliğini artırmak için ağırlıklı bir seçim yapar. Bizler de bu çalışmamızda random search, grid search gibi kabul görmüş yöntemlere ek olarak kendi geliştirdiğimiz yöntemi belirli bir model üzerinde deneyerek sonuçları karşılaştıracağız. (ORCID NO: 0009 0004 6140 5869)
Anahtar Kelimeler: Makine Öğrenmesi, Hiper Parametre Optimizasyonu, Random Search, Grid Search
|
