Choice of the Smoothing Parameter in Kernel Density Estimation

Abstract

Kernel density estimation is one of the main methods available for univariate density estimation. The problems of choosing the kernel function and choosing the smoothing parametr are of crucial importance in density estimation. Various methods, used in practice, for choosing smoothing parametr are discussed. Some of them are simple, some complicated in calculations, but it must be emphasized that the appropriate choice of method for choosing parameter depends on the purpose for which the density estimate is to be used. Monte Carlo study is presented, where three “practical rules" and two forms of crossvalidation (maximum likelihood CV and least-squares CV) are used in density estimation. The values of smoothing parameters are compared with the “optimal” one, which is obtained by minimizing mean squared error. In all mentioned studies the accuracy of the estimation, measured by mean squared error, is considered.

Jądrowa estymacja jest jedną z podstawowych metod nieparametrycznej estymacji funkcji gęstości. Zagadnienie wyboru funkcji jądra oraz wyboru właściwej wartości parametru wygładzania traktowane są jako zasadnicze w estymacji funkcji gęstości. W pracy rozważane są różne metody wyboru parametru wygładzania w estymacji jądrowej, od metod najprostszych do nieco bardziej złożonych. Należy podkreślić jednak, iż wybór metody wyboru parametru wygładzania zależy od celu dokonywanej estymacji charakterystyki funkcyjnej. W artykule przedstawiono również wyniki z przeprowadzonego eksperymentu Monte Carlo, gdzie rozważano trzy „praktyczne zasady” wyboru parametru wygładzania oraz dwie metody cross-validation (największej wiarygodności i najmniejszych kwadratów). Wartości tak otrzymanych parametrów wygładzania są porównywane z parametrem otrzymanym poprzez minimalizację błędu średniokwadratowego, traktowanym jako parametr „optymalny” .