Оракульное неравенство для метода экспоненциального взвешивания упорядоченных оценок
Автор: Крымова Е.А., Черноусова Е.О.
Журнал: Труды Московского физико-технического института @trudy-mipt
Рубрика: Математика, информатика, управление, экономика
Статья в выпуске: 3 (19) т.5, 2013 года.
Бесплатный доступ
Рассматривается задача восстановления неизвестного вектора по зашумленным наблюдениям при помощи упорядоченных линейных оценок. Основной целью является вывод оракульного неравенства, позволяющего контролировать риск оценки, полученной агрегацией упорядоченных оценок при использовании метода экспоненциального взвешивания. Предлагается новый метод получения оракульных неравенств, основанный на вероятностных свойствах несмещенной оценки риска. Показано, что экспоненциальное взвешивание позволяет улучшить оракульное неравенство Кнайпа [1].
Экспоненциальное взвешивание, агрегация оценок, несмещенная оценка риска, упорядоченные оценки, оракульные неравенства
Короткий адрес: https://sciup.org/142185928
IDR: 142185928
Список литературы Оракульное неравенство для метода экспоненциального взвешивания упорядоченных оценок
- Kneip A. Ordered linear smoothers//Annals of Stat. -1994. -V. 22. -P. 835-866.
- Speckman P. Spline smoothing and optimal rates of convergence in nonparametric regression//Ann. Statist. -1985. -V. 13. -P. 970-983.
- Тихонов А.Н., Арсенин В.Я. Методы решения некорректных задач. -М.: Наука, 1974.
- Engl H.W., Hanke M., Neubauer A. Regularization of Inverse Problems. Mathematics and its Applications. V. 375. -Springer, 2000.
- Wahba G. Spline Models for Observational Data. -Philadelphia: SIAM, 1990.
- Demmler A., Reinsch C. Oscillation matrices with spline smoothing//Numer. Math. -1975. -V. 24. -P. 375-382.
- Green P.J., Silverman B.V. Nonparametric Regression and Generalized Linear Models: A Roughness Penalty Approach. -Chapman & Hall, 1993.
- Akaike H. Information theory and an extension of the maximum likelihood principle//Proc. 2nd Intern. Symp. Inf. Theory. -1973. -P. 267-281.
- Nemirovski A.S. Topics in non-parametric statistics. Lectures Notes in Math. V. 1738. -Berlin: Springer-Verlag, 2000.
- Catoni O. Statistical learning theory and stochastic optimization Lectures Notes in Math. V. 1851. -Berlin: Springer-Verlag, 2004.
- Rigolet Ph., Tsybakov A. Sparse estimation by exponential weighting//arXiv:1108.5116v1 [math.ST].
- Dalalyan A., Salmon J. Sharp oracle inequalities for aggregation of affine estimators//arXiv:1104.3969v2 [math.ST].
- Leung G., Barron A. Information theory and mixing least-squares regressions//IEEE Transactions on Information Theory. -2006. -V. 52. N. 8. -P. 3396-3410.
- Golubev Yu. On universal oracle inequalities related to high dimensional linear models//Ann. Statist. -2010. -V. 38, N. 5. -P. 2751-2780.
- Chernousova E., Golubev Yu., Krymova E. Ordered smoothers with exponential weighting//arXiv:1211.4207 [Probab. Theory Relat. Fields].
- Stein, C. Estimation of the mean of a multivariate normal distribution//Annals of Stat. -1981. -V. 9. -P. 1135-1151.
