Verilerin Lineer İç İlişkili Olduğu Lojistik Regresyonda Bazı Yanlı Parametre Kestiricileri ve Hata Karaler Ortalamasına Göre Karşılaştırmaları

En çok olabilirlik kestirimi kullanılan lojistik regresyon yaygın kullanım alanlarına sahiptir. Lojistik regresyon genellikle, medikal alanlarda yaşam olasılığı modelleme ve hastalık ve travmadaki risk faktörlerinin değerlendirme gibi alanlarda kullanılır. Lojistik regresyonda bağımsız değişkenler arasındaki lineer iç ilişki en çok olabilirlik kestiricisinin (MLE) varyansını büyük oranda etkiler. Bu çalışmada MLE’ ne alternatif olarak başka kestiriciler önerildi. Belirli koşullar altında Ridge (Smidt&McDonald,1976) kestiricisi, Stein (Stein,1960) kestiricisinin toplam hata kareler ortalamalarının dolayısıyla varyanslarının en çok olabilirlik kestiricisininkinden (MLE) daha küçük olduğu biliniyor. Buna benzer olarak, Ridge ve Stein kestiricilerinin konveks bileşimi olan Liu (Liu,1993) kestiricisinin lojistik regresyondaki toplam hata kareler ortalamasının da MLE kestiricisininkinden daha küçük olabileceği üzerinde çalışılmaktadır

Anahtar Kelimeler:

Lojistik regresyon, En çok olabilirlik kestiricisi(MLE), Yinelemeli ağırlıklandırılmış en küçük kareler(IWLS), Ridge kestirimi, Stein kestirimi, Liu kestirimi, lineer iç ilişki

Some biased estimators and their comparisons using mean squared error criterion in logistic regression when data are collinear

Logistic regression using maximum likelihood estimation has recently gained widespread use. Many of these applications have been in situations in which the independent variables are collinear. The collinearity among the independent variables seriously effects the variance of the maximum likelihood estimation. In this study, several alterative estimators are suggested, which are combat the collinearity and easy to obtain in practice. It has been known that under some situations of the Ridge estimator and Stein estimator are less affected by the variance of the MLE. Similarly, we are studying on Liu estimator which is the convex combining of them in logistic regression.

Keywords:

Logistic regression, Maximum Likelihood Estimation (MLE), Iterative weighted least squares (IWLS), Ridge regression, Stein regression, Liu regression, collinearity.,

PDF

___

Gunst, R.F., Mason, R.L. (1977b). Biased estimation in Regression: An evaluation Using Mean Square Error. JASA, 72, pp. 616-627.
Hoerl, A.E., Kennard, R.W. (1970a). Ridge Regression: Biased estimation for Nonorthogonal problems. Technometrics, 12, pp. 55-67.
Hoerl, A.E., Kennard, R.W. (1970b). Ridge Regression: Applications Nonorthogonal problems. Technometrics, 12, pp. 69-82.
Hoerl, A.E., Kennard, R.W. and Baldwin, K.F. (1975). Ridge Regression: Some Simulations. Communications in Statistics, 4(2), pp. 1105-1123.
Kejian, L. (1993). A new class of biased estimate in linear regression. Commun. Statistics: Theory and Methods, 22(2), pp. 393-402.
Myers, R.H., Montgomery, D.C., Vining, G.G. (2001). Generalized Linear Models: with applications in engineering and sciences. Wiley & Sons, Inc., New York.
Schaeffer, R.L., Roi, L.D. and Wolfe, R.A. (1984). A Ridge logistic estimator. Communications in Statistics: Theory and Methods, Vol.13, No.1, pp. 99-113.
Schaeffer, R.L. (1986). Alternative estimators in logistic regression when the data are collinear. J. Statist. Comput. Simul., Vol. 25, pp. 75-91.
Urgan, N.N. (2007). Lojistik Regresyonda Bazı Yanlı Kestiricilerin İncelenmesi. Doktora tezi. Dicle Üniversitesi, Fen Bilimleri Enstitüsü.