Evrişimli Sinir Ağlarının Hiperparametre Optimizasyonunda Gri Kurt Algoritmasının Kullanımı

Derin öğrenme modellerinin başarımı büyük ölçüde hiperparametre seçimine bağlıdır. Bu çalışmada evrişimli sinir ağlarının öğrenme oranı, filtre sayısı, katman derinliği ve bırakma oranı gibi hiperparametreleri gri kurt optimizasyonu ile belirlenmiştir. Yöntem; ızgara arama, rastgele arama ve parçacık sürü optimizasyonu ile CIFAR-10 ve Fashion-MNIST veri kümelerinde karşılaştırılmıştır. Gri kurt algoritması ızgara aramaya göre %58 daha az değerlendirmeyle benzer veya daha yüksek doğruluk elde etmiştir.

The performance of deep learning models depends heavily on hyperparameter selection. In this study, hyperparameters of convolutional neural networks such as learning rate, number of filters, depth and dropout rate were determined with the grey wolf optimizer. The method was compared with grid search, random search and particle swarm optimization on CIFAR-10 and Fashion-MNIST. The grey wolf optimizer achieved similar or higher accuracy with 58% fewer evaluations than grid search.