Hiper parametreler, makine öðrenmesi ve derin öðrenme algoritmalarýnda kullanýlan, modelin performansýný etkileyen ve modelin eðitilmesi sýrasýnda ayarlanabilen parametrelerdir. Örnek olarak, bir sinir aðý modelindeki öðrenme hýzý, aðýrlýk düzenleme parametreleri, epoch sayýsý, batch size gibi parametreler hiper parametrelerdir. Hiper parametreler, modelin doðruluðunu, hýzýný, kayýp deðerlerini ve genel performansýný etkileyebilir. Bu nedenle, doðru hiper parametrelerin seçilmesi, modelin en iyi performansýný göstermesi için önemlidir. Hiper parametre optimizasyonu, farklý hiper parametre deðerleriyle modelin eðitilmesi ve doðruluk ölçümlerine göre en iyi hiper parametre deðerlerinin seçilmesi iþlemidir. Bu optimizasyon iþlemi, grid search, random search, bayesian optimizasyon, gradient-based optimization gibi farklý yöntemlerle yapýlabilir. Hiper parametre optimizasyonu, doðru yöntem ve verilerle yapýldýðýnda, modelin performansýný önemli ölçüde artýrabilir. Hiper parametre optimizasyonu için kullanýlan bazý yöntemler þunlardýr: Grid search: Belirlenmiþ bir hiper parametre deðerleri kümesi arasýnda her bir kombinasyonu deneyerek en iyi hiper parametreleri bulmaya çalýþýr. Random search: Belirlenmiþ bir hiper parametre deðerleri aralýðýndan rastgele deðerler seçerek birkaç kez modeli eðitir ve en iyi hiper parametre kombinasyonunu seçer. Bayesian Optimizasyon: Hiper parametreleri bir olasýlýk daðýlýmý ile temsil ederek en iyi hiper parametreleri bulmaya çalýþýr. Bu yöntem, önceki deneylerden elde edilen bilgileri kullanarak gelecekteki deneylerin verimliliðini artýrmak için aðýrlýklý bir seçim yapar. Bizler de bu çalýþmamýzda random search, grid search gibi kabul görmüþ yöntemlere ek olarak kendi geliþtirdiðimiz yöntemi belirli bir model üzerinde deneyerek sonuçlarý karþýlaþtýracaðýz. (ORCID NO: 0009 0004 6140 5869)
Anahtar Kelimeler: Makine Öðrenmesi, Hiper Parametre Optimizasyonu, Random Search, Grid Search
|
