BÜŞRA EMİR, ERTUĞRUL ÇOLAK, KEVSER SETENAY ÖNER

Farklı Optimizasyon Teknikleri ve Örneklem Büyüklüklerinde Standart Tobit Modeli Tahmincilerinin Performansı üzerine Bir Simülasyon Çalışması

Bu çalışmanın amacı, bağımlı değişkenin sınırlı bir değer aralığında gözlemlendiği regresyon modelinde kullanılan parametre tahmin yöntemlerini karşılaştırmaktır. Bu model Tobit model ya da sansürlü regresyon modeli olarak adlandırılmaktadır. Tobit modelde rasgele hatanın 0 ortalama ve σ2varyans ile normal dağılım gösterdiği varsayılmaktadır. Bu varsayıma göre simülasyon çalışması yapılmıştır. Simülasyon çalışmasının amacı, hangi yöntemin parametreleri tahmin etmede en iyi olduğunu belirlemektir. Kullanılan parametre tahmin yöntemleri; Probit en büyük olabilirlik yöntemi, Tobit en büyük olabilirlik yöntemi ve Heckman iki aşamalı tahmin yöntemidir. Olabilirlik fonksiyonları, parametrelerin doğrusal bir fonksiyonu olmadıkları için bu modellerin açık çözümleri elde edilememektedir. Bu nedenle, bu tür modellerin parametre tahminleri için farklı optimizasyon teknikleri geliştirilmiştir. Bu çalışmada, Newton Raphson (NR), Quasi Newton (QN), Conjugate Gradient (CG), Double Dogleg (DD), Nelder Mead Simplex (NM), Newton Raphson Ridging (NRR) ve Trust Region (TR) optimizasyon teknikleri kullanılmıştır. Karşılaştırmalar iki temel ölçüt kullanılarak yapılmıştır. Bu ölçütler, parametre tahminleri ve hata kareler ortalamaları, yakınsama oranlarına göre optimizasyon tekniklerinin performansları olarak belirlenmiştir. Tobit en büyük olabilirlik yöntemi için örneklem büyüklüğü 50 iken, optimizasyon tekniklerinin tümü ile başlangıç parametre değerlerine oldukça yakın ortalama değerlerine ulaşılmıştır. Hata kareler ortalama değerleri de diğer yöntemlere göre oldukça küçük bulunmuştur. Tobit en büyük olabilirlik yöntemi, diğer tahmin yöntemine göre örneklem büyüklüğü çok küçük olduğunda bile parametreleri tahmin etmede en iyi yöntemdir. Optimizasyon tekniklerinin yakınsama oranları incelendiğinde, en iyi performans gösteren optimizasyon tekniği Quasi Newton’dur.

Anahtar Kelimeler:

Parametre tahmin yöntemleri, Probit en büyük olabilirlik yöntemi, Tobit en büyük olabilirlik yöntemi, Heckman iki aşamalı tahmin yöntemi, Optimizasyon teknikleri

On the Performance of Estimators in Standard Tobit Model under Different Optimization Techniques and Sample Sizes: A Simulation Study

The purpose of this study is to compare the parameter estimation methods used in the regression model where the dependent variable is observed in a limited range of values. This model is called Tobit model or censored regression model. It is assumed that the random error has a normal distribution with 0 mean and σ2 variance in the Tobit model. According to this assumption, simulation study has been done. The aim of the simulation study is to determine which method is best to estimate the parameters. These estimation methods included Probit Maximum Likelihood, Tobit Maximum Likelihood and Heckman’s Two-Step. It can not be obtained clear solutions of these models since the likelihood functions are not a linear function of the parameters. For this reason, different optimization techniques have been developed for parameter estimation of such models. In this study, it is used Newton Raphson (NR), Quasi Newton (QN), Conjugate Gradient (CG), Double Dogleg (DD), Nelder Mead Simplex (NM), Newton Raphson Ridging (NRR) and Trust Region (TR) optimization techniques. Comparisons were made using two basic criteria. These criteria were determined as parameter estimates and mean square error, performances of optimization techniques according to convergence rates. In the Tobit maximum likelihood estimation method, all of the optimization techniques have reached mean values very close to the initial parameter values when the sample size has 50. The values of mean square error were found to be quite small compared to other methods.Tobit maximum likelihood is the best method to estimate parameters even when the sample size is very small compared to other estimation methods. The best performing optimization technique is Quasi Newton when the convergence rates of the optimization techniques are examined.

Keywords:

Parameter estimation methods, Probit maximum likelihood estimation method, Tobit maximum likelihood estimation method, Heckman two step estimation method, Optimization techniques,

PDF

___

Tobin J. Estimation of relationships for limited dependent variables. Econometrica: journal of the Econometric Society. 1958:24-36, 0012-9682.
Goldberger AS. Econometric theory. Econometric theory. 1964.
Tran BX, Ohinmaa A, Nguyen LT. Quality of life profile and psychometric properties of the EQ-5D-5L in HIV/AIDS patients. Health and quality of life outcomes. 2012;10(1):132.
Zhao Y, Li S-P, Liu L, Zhang J-L, Chen G. Does the choice of tariff matter?: A comparison of EQ-5D-5L utility scores using Chinese, UK, and Japanese tariffs on patients with psoriasis vulgaris in Central South China. Medicine. 2017;96(34).
Jin H, Wang B, Gao Q, Chao J, Wang S, Tian L, et al. Comparison between EQ-5D and SF-6D utility in rural residents of Jiangsu Province, China. PLoS One. 2012;7(7):e41550, 1932-6203.
Amemiya T. Tobit models: A survey. Journal of econometrics. 1984;24(1-2):3-61, 0304-4076.
Schnedler W. Likelihood estimation for censored random vectors. Econometric Reviews. 2005;24(2):195-217, 0747-4938.
Huang T, Hughes E, editors. Nonlinear optimization in SAS/OR® software: Migrating from PROC NLP to PROC OPTMODEL2010.
Long SJ. SAGE Publications, Inc. Thousand Oaks, California. Regression models for categorical and limited dependent variables. 1997;7.
DeMaris A. Regression with social data: Modeling continuous and limited response variables: John Wiley & Sons; 2004.
Amemiya T. Regression analysis when the dependent variable is truncated normal. Econometrica: Journal of the Econometric Society. 1973:997-1016, 0012-9682.
Olsen RJ. Note on the uniqueness of the maximum likelihood estimator for the Tobit model. Econometrica: Journal of the Econometric Society. 1978:1211-5, 0012-9682.
Greene W. The behaviour of the maximum likelihood estimator of limited dependent variable models in the presence of fixed effects. The Econometrics Journal. 2004;7(1):98-119, 1368-423X.
Heckman J. The Common Structure of Statistical Models of Truncation, Sample Selection and Limited Dependent Variables and a Simple Estimator for Such Models. National Bureau of Economic Research, Inc; 1976.
Greene WH. On the asymptotic bias of the ordinary least squares estimator of the Tobit model. Econometrica: Journal of the Econometric Society. 1981:505-13, 0012-9682.
Zhou X. Semiparametric and nonparametric estimation of Tobit models: Hong Kong University of Science and Technology (Hong Kong); 2007.
Kaaouachi A, El Melhaoui S. A Comparison of the Performance of Various Estimators of Parametric Type1 Tobit Model. Open Journal of Statistics. 2013;3(01):1.