DOĞRUSAL OLMAYAN REGRESYON PARAMETRELERİNİN SEZGİSEL YÖNTEMLERLE TAHMİNİ

Gerçek dünyadaki deneysel olarak elde edilen veriler ve sinyallerin matematiksel modelleri her zaman kesin ve belirli değildir. Sinyal işlemede ve diğer deneysel çalışmalarda veriler için bir matematiksel model elde etmek ve bu matematiksel modelin parametrelerinin tahmini önemli bir konudur. Bu çalışmada üç farklı veri seti ve bu veri setleri için literatürde önerilen beş farklı modelin parametreleri doğrusal olmayan regresyon metodları ve sezgisel arama algoritmaları ile tespit edilmeye çalışılmıştır. Doğrusal olmayan regresyon metodlarının en büyük dezavantajı yakınsamalarının parametrelerin ilk tahminlerine bağlı olmasıdır. Oysa bu çalışmada kullanılan sezgisel algoritmaların en iyi sonuca yakınsamaları başlangıç değerlerinden bağımsızdır. Bu amaçla iki tür test yapılmıştır. Birinci testte veri setleri ve her veri seti için önerilen modellere gerçek değerlerine yakın ilk değerler atanmış ve modeller hem klasik hemde sezgisel algoritmalar ile optimize edilmeye çalışılmıştır. Sezgisel agoritmalardan Genetic Algoritma(GA) ve Parçacık Sürü Optimizasyonu(PSO) algoritmaları ile elde edilen sonuçlar, klasik algoritmalar ile karşılaştırılmıştır. Birinci testte hem klasik yöntemler hemde sezgisel yöntemler model parametrelerini tahmin etmişlerdir. İkinci testte ise modellerin ilk değerleri gerçek değerlerden uzak seçilmiştir. Bu testte sezgisel algoritmalar daha başarılı sonuçlar vermiştir. Doğrusal olmayan regresyon analizinde kullanılan klasik algoritma sonuçları gerçek parametre değerine tüm çözümlerde yakınsayamamıştır. Yapılan analizler sonucunda model parametrelerinin ik değerleri hakkında bir bilgi olmadığı durumlarda sezgisel yöntemlerin doğrusal olmayan regresyon analizinde iyi bir alternatif olacağı görülmüştür

ESTIMATION OF THE NON LINEAR REGRESSION PARAMETERS WITH HEURISTIC METHODS

In real world, the mathematical models of the signals and experimental data are not always exact and precise. To fit a mathematical model and estimate the parameters of this mathematical model is an important issue. In this study, three different data set and five different model for each data set were used. In order to estimate the parameters of these models both nonlinear regression algorithms and heuristic search algorithms. The major disadvantage of the nonlinear regression methods is that these algorithms are dependent to the initial estimates of the parameters. Whereas convergances of heuristic algorithms used in this study are independent to the initial values. With this aim two test case were used. At first test, the initial estimates were selected near to the real values. The models parameters have been optimized both classical and heuristic algorithms. The results obtained from Genetic Algorithm (GA) and Particle Swarm Optimization (PSO) have been compared with classical algorithms. At first test, both classical and heuristic algorithms have been successful to estimate the model paramters. At second test, the initial values of the models have been assigned quite far from the real values. In this test, heuristic algorithms have been more successful than classical algorithms. Classical algorithm results have not been converged to the real values for all the models. As a results, heuristic algorithms have been accepted as a good alternative, when we have not any information about the inital values of the parameters of nonlinear regression model

___

  • A. Okabe and K. Kogiso(2016). Application of Particle Swarm Optimization to Parameter Estimation of a McKibben Pneumatic Artificial Muscle Model, 2016 IEEE 4th International Conference on Cyber-Physical Systems, Networks, and Applications (CPSNA), Nagoya, 2016, pp. 49-54.
  • Altunkaynak B., Esin A.,(2004). Doğrusal Olmayan Regresyonda Parametre Tahmini için Genetik Algoritma Yöntemi, G.U. J. Sci., 17(2):43-51
  • Aşkın, D., İskender, İ., and Mamızadeh A.(2011). Farklı yapay sinir ağları yöntemlerini kullanarak kuru tip transformatör sargısının termal analizi., Gazi Üniversitesi Mühendislik-Mimarlık Fakültesi Dergisi 26.4.
  • Bayram M.(2009). Nümerik Analiz, Birsen Yayınevi, İstanbul.
  • Erdogmus P. and Toz M. (2012). Heuristic Optimization Algorithms in Robotics, Serial and Parallel Robot Manipulators - Kinematics, Dynamics, Control and Optimization, Dr. Serdar Kucuk (Ed.), InTech, DOI: 10.5772/30110.
  • Erdoğmuş P.(2016), Doğadan Esinlenen Optimizasyon Algoritmaları ve Optimizasyon Algoritmalarının Optimizasyonu, Düzce Üniversitesi Bilim ve Teknoloji Dergisi,4, 293- 304.
  • F. Coccetti and P. Russer,(2004). A Prony's model based signal prediction (PSP) algorithm for systematic extraction of Y-parameters from TD transient responses of electromagnetic structures, Microwaves, Radar and Wireless Communications, 2004. MIKON-2004. 15th International Conference on, pp. 791-794 Vol.3.
  • H. Wei(2103). Vehicle audio signal estimation of AR model and power spectrum estimation based on artificial neural network, Chinese Automation Congress (CAC), 2013, Changsha, pp. 876-881.doi: 10.1109/CAC.2013.6775856
  • J. Kennedy and R. Eberhart(1995). Particle swarm optimization, Neural Networks, 1995. Proceedings.
  • Juan R. Trapero, Hebertt Sira-Ramírez, Vicente Feliu Batlle(2007). An algebraic frequency estimator for a biased and noisy sinusoidal signal, Signal Processing, Volume 87, Issue 6, Pages 1188-1201.
  • Keskintürk T., Şahin S.(2009). Doğrusal Olmayan Regresyon Analizinde Gerçek Değer Kodlamalı Genetik Algoritma, Istanbul Ticaret Üniversitesi Sosyal Bilimler Dergisi Yıl:8 Sayı:15 Bahar 2009 s.167-178
  • M. A. Rahman and G. K. Venayagamoorthy(2016). Dishonest Gauss Newton method based power system state estimation on a GPU," 2016 Clemson University Power Systems Conference (PSC), Clemson, SC,pp. 1-6.
  • P. K. Nayak, S. S. Pujari and B. N. Sahu(2015). Parameter estimation of nonstationary power signals using an improved Gauss- Newton adaptive filter, 2015 IEEE Power, Communication and Information Technology Conference (PCITC), Bhubaneswar, pp. 403-408.
  • P. S. S. D. Gannabathula and I. S. N. Murthy, (1988).ARMA model estimation for EEG using canonical correlation analysis, Engineering in Medicine and Biology Society, 1988.
  • Proceedings of the Annual International Conference of the IEEE, New Orleans, LA, USA, pp. 1204-1205 vol.3.
  • Schwaab M., Biscaia E. C., Monteiro J.J, Pinto J. C.(2008). Nonlinear parameter estimation through particle swarm optimization, Chemical Engineering Science, Volume 63, Issue 6, 2008, Pages 1542-1552, ISSN 0009-2509.
  • W. Zhang and X. Wang,(2016). System identification of MISO second-order system based on least square method, 2016 35th Chinese Control Conference (CCC), Chengdu, China, pp. 9457- 9461.
  • Yang J., Lu L., Ouyang W., Gou Y., Chen Y., Ma H., Guo J., Fang F.(2017) Estimation of kinetic parameters of an anaerobic digestion model using particle swarm optimization, Biochemical Engineering Journal, Volume 120, 15 April 2017, Pages 25-32.
  • Yürüklü E., Koçal O.(2012).The Classification and Recognition of Turkish Vowels with SelfOrganizing Maps, Uludağ Üniversitesi Mühendislik-Mimarlık Fakültesi Dergisi, Cilt 17, Sayı 1.