Оценка ковариационной матрицы для временных рядов различных частотностей
Бесплатный доступ
Предложено обобщение оценки Ньюи и Веста асимптотической ковариационной матрицы на случай временных рядов различной частотности и/или с пропусками. Как и оценка Ньюи-Веста, предложенная оценка является одновременно и состоятельной, и положительно полуопределенной при достаточно общих предположениях о свойствах исходных временных рядов.
Короткий адрес: https://sciup.org/147158582
IDR: 147158582
Текст научной статьи Оценка ковариационной матрицы для временных рядов различных частотностей
Для случая, когда временные ряды имеют одинаковую частотность, различные оценки ковариационных матриц изучаются во многих работах (см., например, [5-7; 9-11]).
В данной работе изучается оценка ковариационной матрицы, построенная для рядов различной частотности. Пример такого рода временных рядов изображён на рис. 1.
В разделе 2 даётся описание оценки ковариационной матрицы из работы [11] для случая, когда все временные ряды имеют одинаковую частотность. В разделе 3 приводится обобщение этой оценки для временных рядов различных частотностей. В разделе 4 устанавливается положительная полуопределённость и состоятельность предложенной оценки. При этом используется результат, относящийся к так называемым последовательностям со свойством перемешивания (с ними можно ознакомиться, например, в [1-2] или приложении к [3]).
Численные примеры применения рассматриваемой оценки приведены в [3; с. 8-9, 14-20] и [12; с. 16-32].

Рис. 1. Наблюдения двух непрерывных случайных процессов в нерегулярные моменты времени (различные для двух процессов)
-
2. Конструкция оценки ковариационной матрицы в случае, когда пропущенных данных нет
Примером многомерного временного ряда, компоненты которого доступны с различной частотностью (символом • обозначены места, где значение недоступно), может быть ряд

Для случая, когда исходные временные ряды имеют одинаковую частотность, задача, аналогичная рассматриваемой в данной работе, ставится следующим образом.
Будем обозначать через N множество натуральных чисел, через Z множество целых чисел, через R" и-мерное евклидово пространство. Рассмотрим последовательность xt зависящих от параметра случайных векторов. Более точно, пусть ^,F,P^ - вероятностное пространство, т.е. для каждого подмножества А, входящего в ст -алгебру F, AeF , определена вероятность Р^А^. Пусть 0 с Rp - компактное выпуклое множество. При каждом t е Z рассматривается функция х( : Q х 0 -> R" , которая для любого 6 е & является измеримой функцией аргумента ю е Q, т.е. является (их1) случайным вектором. Этот случайный вектор мы будем обозначать иногда как х( (®,0), иногда как xt (0), иногда как х,.
Пусть для некоторого г е Z, г > О, определена измеримая функция
ф: ^”(r+i) _> Rq .
Будем использовать обозначение
Pt =Ф^х„х1_х,...,х1_тУ где t е Z . Далее для упрощения изложения будем считать, что при любом 0 е 0 (9 х 1) случай ные векторы pt имеют нулевые ожидания:
E^pt^ = 0, ^teZ.
Определим (^xl) случайный вектор RT=—== ^pt и рассмотрим его ковариационную матрицу ST . Т.к. E^pt ) = 0, матрица ST имеет вид
S Т=Е
ml/2 ^<
^ /=1
ThZp.
Ньюи и Вест в [11] строят оценку
„ A ” / А А X А 1 Г
8Т = Qo + ^km\Qk +бл)>где Qk =- £ ptp't_k . к=\ х ' т м
При некоторых условиях, в частности, на веса w^ (точные формулировки приведены в разделе
-
5) матрица ST является положительно полуопределённой и
- ST — ST ———>0 при Т—>оо.
-
3. Конструкция оценки ковариационной матрицы в общем случае
Отметим, что если существует предел1 5 = lim ST - некоторая (^ х ^) матрица2, то этом случае Т—>оо можно говорить о состоятельности ST при Г -> оо. Если этот предел не существует, то под со стоятельностью оценки, следуя, например, [11], мы понимаем ST -ST ——>0 при Т -» оо.
Для последовательности х,, определённой так же, как и ранее, рассмотрим множество точек (i,t) с целыми координатами, / = 1,2,...,и, t е Z. Пусть Мх -подмножество этого множества. Обозначим z-ю компоненту случайного вектора х, как х^ . Будем говорить, что случайная величина х^ доступна, если (z,/) е Мх, и что не доступна, если (i,f) & Мх .
Запишем равенство pt = ®(xz,xz_15...,xz_r) покомпонентно: рУ = , j = V,q, и будем говорить, что функция Ф^ постоянна по (пк + z)-й компоненте, к = 0,1,...,r;i = 1,2,...,п, если для V(xz,x/_1,...,xz_r)e Rm выполнено равенство: фО')/’у(1) у(2) Г(П) y(D у(2) АП у(")\_
-
(2) W (1) (2) 0 (n)\
~ ^ \At »At ••***( 9**/—I»-*/—1 9ee»>V>eee9-*;—f I •
Назовём случайную величину р^ =Ф^ух^\х^2\.^п\х^2х,х^,...,х^1г.^ доступной, если для данных t и j функция Ф^)^1),хр)..д:р),х%,хрр...,хр)к...,хр^ постоянна по всем недоступным случайным величинам среди её аргументов х^, к = О..т, i = 1 ..п . В противном случае назовём случайную величину рр^ недоступной.
Рассмотрим множество точек (у,/), j = 1,2...9 , teZ. Пусть его подмножество Мр определено таким образом, что элемент (y,z) принадлежит Мр тогда и только тогда, когда случайная величина рр^ является доступной.
При построении оценки мы будем использовать лишь доступные случайные величины рр^, для которых t = 1 ...Т.
Т.к. каждый случайный вектор х( в {*z}^r является функцией tyeQ и 0с0, а каждый случайный вектор pt из {р,}^ является функцией некоторых случайных векторов из {х,}^_г,мы можем писать xt = xt (<э,0), pt = pt ро,&}.
Определим Ат как (^ х 1) случайный вектор с компонентами
Тогда, если все компоненты всех рассматриваемых векторов pt доступны, случайный вектор Аг совпадает со случайным вектором RT . Определим ковариационные матрицы случайных векторов Ат:
Zr=E(ArA^) (3)
(напомним, что Е (Ат ) = 0).
Поскольку случайный вектор Ат является сложной функцией вида Ат ^/?,((У,5)^), матрица ZT является функцией 0, т.е. ZT = ZT (5).
Задача данной работы состоит в построении по доступным компонентам случайных векторов {/Э(}^ последовательности положительно полуопределенных случайных матриц ZT, таких, что ZT -ZT ———>0 при Т —> оо.
В этой работе построена оценка вида
А А /А А \ А 1 / / А \ \ / / А \ \
-
$г =Ч'о tE^K. +4,i). ^t = т Z ^?<“,)A »r -/^(«.-«to-» »г (4) к=\ 1 t=k*\
Здесь dia^px^ это диагональная pi^q^ матрица, по диагонали которой стоят компоненты (^xl) вектора at. Векторы же at определены для teN как последовательность (wxl) векторов, такая что ap^ = 1, если (jV) е Мр и ар^ = 0 в противном случае. Предел суммирования m рассматривается как функция Т: m = m(T).
Читатель, интересующийся только первым классом задач, может считать, что 9Т тождественно некоторому значению 9* , не зависящему от Т .
В данной работе доказано, что оценка ZT положительно полуопеределена для любого m, при условии, что веса w^, для этого m могут быть представлены в виде:

u=° у
2j^ j^ J-k’ j=k
( 1 )
к g (0..Z), £ J g R, V/ G (0..Z), £ £ v2 > 0
< J=° '
Будем называть данное условие на веса Wy Условием 1 .
Далее в работе доказано, что данная оценка является состоятельной оценкой ^(^*), если
-
1. веса Wy для любых т g N,k = l...m удовлетворяют jw^j <С7 для некоторого конечного С , а также Vk : lim w^ = 1, m->oo
-
2. т = т(Т\ такова, что lim /и(Т) = +оо и Пт m(T")T-U4 = 0. Т ->00 Т ->00
-
4. Теоремы о положительной полуопределённости и состоятельности
Будем называть данное условие на веса w^ Условием 2 .
К примеру, Условию 1 и Условию 2 одновременно будет удовлетворять набор весов ^=1--— (т.е. § = 1 для ус(0.../и) и w = 0,1,2...) и ^(7) = [4(7V100)2/9].
В [11] доказаны следующие две теоремы.
Теорема NW1. При выполнении Условия 1 на веса w^ матрица ST является положительно полуопределённой.
Доказательство этой теоремы представлено в [11] и, главным образом, опирается на результат [8]. См. также [4, с. 128-132]
ТЕОРЕМА NW2. Предположим, что выполнены следующие условия:
-
(i) При любом teZ р1(ю,0^ = ф(хе^й),9ух(_Л(й),0^,...х[_т(а),9^
как сложная функция Q х 0 -> R4 , измерима на Q при любом в g 0 и с вероятностью 1 непрерывно дифференцируема по 6 в некоторой окрестности В точки 6* - внутренней точки множества 0.
-
(ii) (а) Существует измеримая функция E(to), такая что для любого 6 g 0, для любого цело
го t и любого to g Q верно что
suplp, (ty.
6еВ
,,5)|<Е(®) и sup -I-pt (a,6) BeB О У
< E(to), причём для неко
торой константы D^ > 0 верно 51 E(ty)2 I < DH .
-
(б) Существуют числа D > 0, 5 > 0 и г > 1, такие что для любого целого / и любого / = 1 ..q
(I (Л « l4^"1"^)^
верно что
Е\
р;
а<о,0 )
-
(iii) Для любого 0 g 0 последовательность xt (5) обладает свойством ф -перемешивания с коэффициентами перемешивания ф^ размера xt^0^, либо обладает свойством хД9^- перемешивания с коэффициентами перемешивания х((5) размера 2г/(г-1) для некоторого г>1.
-
(iv) Случайные величины 0Т : Q -> 0 таковы, что VT( 0Т -0* I сходится по распределению к
некоторой случайной величине при Т -> оо .
Тогда при выполнении Условия 2 на веса w^

-5Г^5*)——>0 при Т->оо
В настоящей работе сравниваются обобщения теорем NW1 и NW2 для случая временных рядов различных частотностей.
Для элементов ковариационной матрицы ZT вектора Ат в соответствии с формулами (2) и
(3) имеем
^’п=Е
^ Z ^
^ Z Р1п
1 и>‘Умр \<1<Т
i = M, j = \..q.
Пусть оценка Ег построена по формуле (4).
ТЕОРЕМА 1. При выполнении Условия 1 на веса w^ матрица Ег является положительно по-луопределённой.
Доказательство.
Определим (9 х 9 случайные векторы qt = diag^a, )pt , но тогда
2Г =Т0 + ^ ^(^ +xi,4)> Ч^ =~ 52 ^t-k ’ т,е- °Ценка ^т это оценка $т, в которой взят t=l ^ (=1+4
ряд qt вместо ряда pt. Из условия £(/?,) = О следует £(fz) = 0. Положительная полуопределён ность матрицы ST следует из теоремы NW1.
Теорема 1 доказана.
ТЕОРЕМА 2. Предположим, что выполнены следующие условия:
-
(i) При любом (/V) е Мр
Р^ (a),0) = Ф(у) (х, (to,0\xt_x (to,0y..jct_T (ro,0^
как сложная функция Ох0 -> R4, измерима на О при любом 06 0 и с вероятностью 1 непрерывно дифференцируема по 0 в некоторой окрестности В точки в* - внутренней точки 0.
-
(ii) (а) Существует измеримая функция Н(о), такая что для любого 0 е 0, для любого цело
го t и любого ю е П верно что
supl/?, (<у,0)|<5(щ) и sup—/?, < Е(й>) , причём для некоторой веВ 6еВ 90
константы DH выполнено ^(Е(щ)2)<Т)н.
(б) Существуют числа D > 0, 8 > 0 и г > 1, такие что для любого натурального t и любого
, . ( I со * |4(г+^)^
i = \.q таких что y,t)eMp верно Е\ NpY’^Q ) <£>.
-
(iii) Для любого 0 е 0 последовательность х, (0) обладает свойством ф -перемешивания с коэффициентами перемешивания ф^ размера xt (0), либо обладает свойством х, (У) -перемешивания с коэффициентами перемешивания х,^ размера 2г/(г-1) для некоторого г > 1.
-
(iv) Случайная величина 0Т : Q -> 0 такова, что Vt ^0т - 0* ) сходится по распределению к некоторой случайной величине при Т -><ю.
Тогда при выполнении Условия 2 на веса w^
i.T ^ Pt ^0т ) | ^“^т^*)—^-^0 при Т^оо (7)
Доказательство теоремы 2.
Как и в доказательстве теоремы 1 определим (?х1) случайные векторы qt -diag{at)pt .
Случайные векторы pt получены из случайных векторов х, посредством измеримого преобразования pt =Ф(х, ,xt_x,...,xt_T), поэтому по теореме П5 из [3], для pt верно, что либо коэф- фициенты перемешивания ф^ имеют размер х, (У), либо коэффициенты перемешивания х, (0) имеют размер 2г/(г-1) (т.к. это верно и для xt).
Для последовательности случайных векторов gt =diag{at)pt верно что либо коэффициент перемешивания ф^ имеет размер 2r/(2r-1), либо коэффициент перемешивания xt^ имеет размер 2r/(г-1) (т.к. это верно для pt , а умножение на вектор, зависящий от t, - измеримое преобразование).
Заметим, что элемент ^J) может быть представлен в виде
-
1 т V 1 т АА 1 т * т Л А
- UiLat Pt ^Lat Pt»
z=i z=i Vx1 t=\z=i а Д в виде
„ 1 т <П (1 т 1 г'
-
7 z StSt-k X St-k< •
Действительно,
(i)
g((<
Q при любом 9 g 0 и непрерывно дифференцируема по 9 при любом ® e Q в некоторой окрестности В точки 9* с вероятностью 1
(ii) т.к. для pt ^0,9^
верно
Vaz е Q: sup|pz (to, 0)1 < E(to),sup Д < ЭД, веВ 6еВ О 9
то и
6еВ
д
VaeQ: supkz (<у,0)| < E(to),sup —д < E(to), где
6еВ веВ 99
E^E(toY^
/ I m i4(r+5)A
Е\ |д( \to,0)| <£> для
некоторых констант Д и Z).
-
(iii ) выше доказано, что коэффициенты перемешивания для последовательности случайных векторов д имеют тот же размер, что и для последовательности xt, то есть либо ф(к) имеет размер 2г/(2г-1), либо а(к) имеет размер 2г/(г-1).
-
5. Заключение
Выполнение условия (iv) теоремы NW2 очевидно.
Итак, применяя теорему NW2 для последовательности случайных векторов д =diag(at)pt , А в мы имеем Ег - Sr ->0 при Т-юо .
Теорема 2 доказана.
В работе предложена оценка ковариационной матрицы для временных рядов различных частотностей и доказаны теоремы о свойствах этой оценки: положительной полуопределённости и состоятельности.
Различные результаты в математической статистике опираются на оценки ковариационной матрицы. Поэтому обладающая хорошими свойствами оценка ковариационной матрицы для рядов различных частотностей может иметь серьёзное практическое значение, расширяя применимость известных результатов на этот случай.
Список литературы Оценка ковариационной матрицы для временных рядов различных частотностей
- Биллингсли П. Сходимость вероятностных мер/П. Биллингсли. М.: Наука, 1977. 352 с.
- Ибрагимов, А.И. Независимые и стационарно связанные величины/А.И. Ибрагимов, Ю.В. Линник. М.: Наука, 1965. 524 с.
- Панов, Е.В. Состоятельная оценка ковариационной матрицы в случае временных рядов различной частотности/Е.В. Панов//WP2/2005/05. М.:ГУ-ВШЭ, 2005 (http://new.hse.ru/sites/infospace/podrazd/uvp/id/preprints/DocLib/WP2_2005_05.pdf).
- Шведов А.С. Математические основы и оценка параметров эконометрических моделей состояние-наблюдение/А.С. Шведов. М.: ГУ-ВШЭ, 2005. 203 с.
- Andrews D.W.K. Heteroskedasticity and Autocorrelation Consistent Covariance Matrix Estimation/D.W.K. Andrews//Econometrica. 1991. Vol. 59. P. 817-858.
- Basak, G.K. Assessing Risk in Sample Minimum Risk Portfolios/G.K. Basak, R. Jagannatan, T. Ma//NBER Working Paper 10447, April 2004.
- Den Haan W.J. Robust Covariance Matrix Estimation with Data-Dependent VAR Prewhitening Order/W.J. Den Haan, A. Levin//Technical working paper 255, National Bureau of Economic Research, 2000.
- McLeod I.A. Nonnegative Definiteness of the Sample Autocovariance Function/I.A. McLeod, С Jimenez//American Statistician. 1984. Vol. 38. P. 297-298.
- Ledoit O. Honey, I Shrunk the Sample Covariance Matrix/O. Ledoit, M. Wolf//Economics Working Paper. Universitat Pompeu Fabra. Department of Economics and Business. June 2003.
- Litterman R. Estimating Covariance Matrices/R. Litterman, K. Winkelmann//Goldman Sachs Risk Management Series. January, 1998.
- Newey W.K. A Simple, Positive Semi-Definite, Heteroskedasticiy and Autocorrelation Consistent Covariance Matrix/W.K. Newey, K.D. West//Econometrica. 1987. Vol. 55, N 3. P. 703-708.
- Panov E.V. Asymptotic Covariance Matrix Estimators for Time Series of Different Frequencies:Numerical Comparison/E.V. Panov, A.S. Shvedov//The Proceedings from the 27th International Symposium on Forecasting, International Institute of Forecasters, New York, June 24-27, 2007 (http://forecasters.org/submissionsASF2007PanovEvgeny.pdf).