Отправляет email-рассылки с помощью сервиса Sendsay

Эконометрика

  Все выпуски  

Эконометрика - выпуск 109


Информационный Канал Subscribe.Ru

Здравствуйте, уважаемые подписчики!

*   *   *   *   *   *   *

   109-й выпуск рассылки "Эконометрика" от 10 декабря 2002 года содержит статью А.И.Орлова о критерии Вилкоксона.

   Все вышедшие выпуски Вы можете посмотреть в Архиве рассылки по адресу http://www.subscribe.ru/archive/science.humanity.econometrika.

*   *   *   *   *   *   *

Какие гипотезы можно проверять с помощью двухвыборочного критерия Вилкоксона?

   Установлено, что двухвыборочный критерий Вилкоксона (Манна-Уитни) предназначен для проверки гипотезы H0 : P(X < Y) = 1/2, где X - случайная величина, распределенная как элементы первой выборки, а Y - второй. Разобраны три примера.

   В прикладной математической статистике часто рассматривают вероятностную модель двух независимых выборок числовых результатов наблюдений. Первая выборка описывается набором m случайных величин X1, X2,..., Xm, имеющих одну и ту же функцию распределения F(x), а вторая выборка - набором n случайных величин Y1, Y2,..., Yn, имеющих одну и ту же функцию распределения G(x), причем все эти m+n случайных величин X1, X2,..., Xm, Y1, Y2,..., Yn независимы в совокупности. Без ограничения общности можно считать, что m # n, в противном случае выборки можно поменять местами. Обычно предполагается, что функции F(x) и G(x) непрерывны и строго возрастают. Из непрерывности этих функций следует, что с вероятностью 1 все m+n результатов наблюдений различны. В реальных статистических данных иногда встречаются совпадения, но сам факт их наличия - свидетельство нарушений предпосылок только что описанной базовой математической модели.

   Статистика S двухвыборочного критерия Вилкоксона определяется следующим образом. Все элементы объединенной выборки X1, X2,..., Xm, Y1, Y2,..., Yn упорядочиваются в порядке возрастания. Элементы первой выборки X1, X2,..., Xm занимают в общем вариационном ряду места с номерами R1, R2,..., Rm, другими словами, имеют ранги R1, R2,..., Rm. Тогда

S = R1 + R2 +... + Rm.

   Статистика U Манна-Уитни определяется как число пар (Xi, Yj) таких, что Xi < Yj, среди всех mn пар, в которых первый элемент - из первой выборки, а второй - из второй. Как известно [1, с.160],

U = mn + m(m+1)/2 - S.

   Поскольку S и U линейно связаны, то часто говорят о критерии Вилкоксона (Манна-Уитни). Не будем обсуждать здесь вопросы истории и терминологии, относящиеся к S и U.

   Критерий Вилкоксона - один из самых известных инструментов непараметрической статистики (наряду со статистиками типа Колмогорова-Смирнова и коэффициентами ранговой корреляции). Свойствам этого критерия и таблицам его критических значений уделяется место во многих монографиях по математической и прикладной статистике (см., например, [1-3]).

   Однако в литературе имеются и неточные утверждения относительно возможностей критерия Вилкоксона. Так, одни полагают, что с его помощью можно обнаружить различие между функциями распределения F(x) и G(x). По мнению других, этот критерий нацелен на проверку равенства медиан распределений, соответствующих выборкам. И то, и другое, строго говоря, неверно. Настоящая статья написана, чтобы внести ясность в рассматриваемый вопрос.

   Ссылки на публикации с неточными и ошибочными утверждениями не приводим по нескольким причинам. Во-первых, таких публикаций слишком много. Во-вторых, некоторые из них после исключения ошибок представляют ценность для практически работающего статистика. В-третьих, зачем создавать рекламу плохим книгам. И т.п.

   Введем некоторые обозначения. Пусть F-1(t) - функция, обратная к функции распределения F(x). Она определена на отрезке [0;1]. Положим L(t) = G(F-1(t)). Поскольку F(x) непрерывна и строго возрастает, то F-1(t) и L(t) обладают теми же свойствами. Важную роль в дальнейшем изложении будет играть величина a = P(X < Y). Как нетрудно показать,

a = P(X < Y) = 0ò1 tdL(t)

   Введем также

b2 =0ò1 L2(t)dt - (1 -a)2, g2 = 0ò1 t2dL(t) - a2

   Тогда математические ожидания и дисперсии статистик Вилкоксона и Манна-Уитни согласно [1, с.160] выражаются через введенные величины:

E(U) = mna, E(S) = mn + m(m+1)/2 - E(U) = mn(1- a) + m(m+1)/2,

D(S) = D(U) = mn [ (n - 1) b2 + (m - 1) g2 + a(1 -a) ]. (1)

   Когда объемы обеих выборок безгранично растут, распределения статистик Вилкоксона и Манна-Уитни являются асимптотически нормальными (см., например, [1, гл.5 и 6]) с параметрами, задаваемыми формулами (1).

   Если выборки полностью однородны, т.е. их функции распределения совпадают, справедлива гипотеза

H0: F(x) = G(x) при всех x, (2)

   то L(t) = t и a= 1/2. Подставляя в формулы (1), получаем, что

E(S) = m(m+n+1)/2, D(S) = mn(m+n+1)/ 12 (3).

   Следовательно, распределение нормированной и центрированной статистики Вилкоксона

T = ( S - m(m+n+1)/2) (mn(m+n+1)/ 12 ) - 1/2 (4)

   при росте объемов выборок приближается к стандартному нормальному распределению (с математическим ожиданием 0 и дисперсией 1).

   Правила принятия решений и таблица критических значений для критерия Вилкоксона строятся в предположении справедливости гипотезы полной однородности, описываемой формулой (2). А что будет, если эта гипотеза неверна? Другими словами, какова мощность критерия Вилкоксона?

   Пусть объемы выборок достаточно велики, так что можно пользоваться асимптотической нормальностью статистики Вилкоксона. Тогда в соответствии с формулами (1) статистика T будет асимптотически нормальна с параметрами

E(T) = (12mn)1/2 (1/2 - a) (m+n+1)-1/2,

D(T) = 12 [(n - 1) b2 + (m - 1) g2 + a(1 -a) ] (m+n+1) -1. (5)

   Из формул (5) видно большое значение гипотезы

H01: a = P(X < Y) = 1/2. (6)

   Если эта гипотеза неверна, то, поскольку m # n, справедлива оценка

u E(T) u $ ( 12m n (2n+1) - 1) 1/2 u 1/2 - au,

   а потому u E(T) u безгранично растет при росте объемов выборок. В то же время, поскольку

b2 # 0ò1 L2(t)dt # 1, g2 # 0ò1 t2dL(t) # 1, a(1 -a)#1/4,

   то

D(T) # 12 [(n - 1) + (m - 1) + 1/4] (m+n+1) - 1 # 12. (7)

   Следовательно, вероятность отклонения гипотезы H01, когда она неверна, т.е. мощность критерия Вилкоксона как критерия проверки гипотезы (6), стремится к 1 при возрастании объемов выборок, т.е. критерий Вилкоксона является состоятельным для этой гипотезы при альтернативе

АH01: a = P(X < Y) ё 1/2. (8).

   Если же гипотеза (6) верна, то статистика T асимптотически нормальна с математическим ожиданием 0 и дисперсией, определяемой формулой

D(T) = 12 [(n - 1) b2 + (m - 1) g2 + 1/4 ] (m+n+1) - 1. (9)

   Гипотеза (6) является сложной, дисперсия (9), как показывают приводимые ниже примеры, в зависимости от значений b2 и g2 может быть как больше 1, так и меньше 1, но согласно неравенству (7) никогда не превосходит 12.

   Приведем пример двух функций распределения F(x) и G(x) таких, что гипотеза (6) выполнена, а гипотеза (2) - нет. Поскольку

a = P(X < Y) = òF(x)dG(x), 1 - a = P(Y < X) = òG(x)dF(x) (10),

   и a = 1/2 в случае справедливости гипотезы (2), то для выполнения условия (6) необходимо и достаточно, чтобы

ò(F(x) - G(x)) dF(x) = 0 (11),

   а потому естественно в качестве F(x) рассмотреть функцию равномерного распределения на интервале (-1 ; 1). Тогда формула (11) переходит в условие

ò(F(x) - G(x)) dF(x) = - 1/2 ò(G(x) - (x + 1)/2 ) dx = 0 (11).

   Это условие выполняется, если функция (G(x) - (x + 1)/2 ) является нечетной.

   Пример 1. Пусть функции распределения F(x) и G(x) сосредоточены на интервале (-1 ; 1), на котором

F(x) = (x + 1)/2, G(x) = ( x + 1 + 1/p sin px ) / 2.

   Тогда x = F-1(t) = 2t - 1, L(t) = G(F-1(t)) = (2 t + 1/p sin p(2t - 1)) / 2 = t + 1/2p sin p(2t - 1). Условие (11) выполнено, поскольку функция (G(x) - (x + 1)/2 ) является нечетной. Следовательно, a = 1/2. Начнем с вычисления

g2 = òt2 dL(t) - 1/4 òt2 d(t + 1/2p sin p(2t - 1)) - 1/4.

   Поскольку d(t + 1/2p sin p(2t - 1)) = (1 + cos p(2t - 1) ) dt, то

g2 = òt2 (1 + cos p(2t - 1) ) dt - 1/4 = 1/12 + òt2 cos p(2t - 1) dt.

   С помощью замены переменных t = (x +1) / 2 получаем, что

òt2cos p(2t - 1) dt = 1/8 (òx2cos px dx + 2òx cos px dx + òcos px dx).

   В правой части последнего равенства стоят табличные интегралы [4, с.71]. Проведя соответствующие вычисления, получаем, что в правой части стоит 1/8 ( - 4/ p2) = - 1/(2 p2). Следовательно,

g2 = 1/12 - 1/(2 p2) = 0,032672733...

   Перейдем к b2. Поскольку

b2 = òL2(t)dt- 1/4 = ò(t + 1/2p sin p(2t - 1))2 dt- 1/4,

   то

b2 = 1/12 + 1/pò(t sin p(2t - 1)) dt + (1/2p)2ò sin2 p(2t - 1) dt.

   С помощью замены переменных t = (x+1) / 2 переходим к табличным интегралам [4, с.65]:

b2= 1/12 + (4p)-1òx sin px dx + (4p)-1òsin px dx + (8p2)-1òsin2px dx.

   Проведя необходимые вычисления, получаем, что

   b2= 1/12 + (4p)-1( - 2/p) +0+ (8p2)-1 = 1/12 - 3(8p2)-1 = 0,045337893...

   Следовательно, для рассматриваемых функций распределения нормированная и центрированная статистика Вилкоксона (см. формулу (4)) асимптотически нормальна с математическим ожиданием 0 и дисперсией (см. формулу (9))

D(T) = (0,544 n + 0,392 m + 2,064) (m+n+1) - 1.

   Как легко видеть, дисперсия всегда меньше 1. Это значит, что в рассматриваемом случае гипотеза полной однородности (2) при проверке с помощью критерия Вилкоксона будет приниматься чаще, чем если она на самом деле верна.

   На наш взгляд, это означает, что критерий Вилкоксона нельзя считать критерием для проверки гипотезы (2) при альтернативе общего вида. Он не всегда позволяет проверить однородность - не при всех альтернативах. Точно так же критерии типа хи-квадрат нельзя считать критериями проверки гипотез согласия и однородности - они позволяют обнаружить не все различия, поскольку некоторые "скрадывает" группировка.

   Обсудим теперь, действительно ли критерий Вилкоксона нацелен на проверку равенства медиан распределений, соответствующих выборкам.

   Пример 2. Построим семейство пар функций распределения F(x) и G(x) таких, что их медианы различны, но для F(x) и G(x) выполнена гипотеза (6). Пусть распределения сосредоточены на интервале (0 ; 1), и на нем G(x) = x, а F(x) имеет кусочно-линейный график с вершинами в в точках (0 ; 0), ( l, 1/2 ), ( d, 3/4), (1 ; 1). Следовательно, F(x) = 0 при x < 0 ; F(x) = x / (2 l) на [0 ; l ) ; F(x) = 1/2 + (x - l ) / (4 d - 4 l) на [l ; d ) ; F(x) = 3/4 + (x - d ) / (4 - 4 d) на [ d ; 1] ; F(x) = 1 при x > 1. Очевидно, что медиана F(x) равна l, а медиана G(x) равна 1/2.

   Согласно соотношению (9) для выполнения гипотезы (6) достаточно определить d как функцию l, d = d ( l ), из условия

òF(x) dx = 1/2.

   Вычисления дают

d = d ( l ) = 3 (1 - l ) / 2.

   Учитывая, что d лежит между l и 1, не совпадая ни с тем, ни с другим, получаем ограничения на l, а именно, 1/3 < l < 3/5. Итак, построено искомое семейство пар функций распределения.

   Пример 3. Пусть, как и в примере 2, распределения сосредоточены на интервале (0 ; 1), и на нем F(x) = x, а G(x) - функция распределения, сосредоточенного в двух точках - b и 1, т.е. G(x) = 0 при x, не превосходящем b ; G(x) = h на (b ; 1] ; G(x) = 1 при x > 1. С такой функцией G(x) легко проводить расчеты. Однако она не удовлетворяет принятым выше условиям непрерывности и строгого возрастания. Вместе с тем легко видеть, что она является предельной (сходимость в каждой точке отрезка [0 ; 1] ) для последовательности функций распределения, удовлетворяющих этим условиям, а распределение статистики Вилкоксона для пары функций распределения примера 3 является предельным для последовательности соответствующих распределений статистики Вилкоксона, полученных в рассматриваемых условиях непрерывности и строгого возрастания.

   Условие P(X < Y) = 1/2 выполнено, если h = (1 - b)-1 / 2 (при b из отрезка [0 ; 1/2] ). Поскольку h > 1/2 при положительном b, то очевидно, что медиана G(x) равна b, в то время как медиана F(x) равна 1/2. Значит, при b = 1/2 медианы совпадают, при всех иных положительных b - различны. При b = 0 медианой G(x) является любая точка из отрезка [0 ; 1].

   Легко подсчитать, что в условиях примера 3 b2 = b(1- b)-1 / 4, g2 = (1- 2b) / 4. Следовательно, распределение нормированной и центрированной статистики Вилкоксона будет асимптотически нормальным с математическим ожиданием 0 и дисперсией

D(T) = 3 [(n-1) b(1- b)-1 + (m-1) (1-2b) + 1] (m+n+1) - 1.

   Проанализируем величину D(T) в зависимости от параметра b и объемов выборок m и n. При достаточно больших m и n

D(T) = 3 w b (1 - b)-1 + 3 (1 - w) (1 - 2 b),

   с точностью до величин порядка (m+n)-1, где w= n/(m+n). Значит, D(T) - линейная функция от w, а потому достигает экстремальных значений на границах интервала изменения w, т.е. при w = 0 и w = 1. В первом случае, при b(1-b)-1 <1-2b, минимум равен 3b(1-b)-1 (при w = 1), а максимум равен 3(1 - 2b) (при w = 0). Во втором случае, при b(1-b)-1 >1-2b, максимум равен 3b(1-b)-1 (при w = 1), а минимум равен 3(1 - 2b) (при w = 0). Если же b(1-b)-1 =1-2b, а это равенство справедливо при b=b0 = 1 - 2-1/2 = 0,293, то D(T) = 3 (21/2 - 1) = 1,2426... при всех w из отрезка [0 ; 1].

   Первый из описанных выше случаев имеет быть при b < b0, при этом минимум D(T) возрастает от 0 (при b=0, w=1 - предельный случай) до 3(21/2 - 1) (при b=b0, w - любом), а максимум уменьшается от 3 (при b=0, w=0 - предельный случай) до 3 (21/2 - 1) (при b=b0, w - любом). Второй случай относится к b из интервала (b0 ; 1/2]. При этом минимум убывает от приведенного выше значения для b=b0 до 0 (при b=1/2, w=0 - предельный случай), а максимум возрастает от того же значения при b=b0 до 3 (при b=1/2, w=0).

   Таким образом, D(T) может принимать все значения из интервала (0 ; 3) в зависимости от значений b и w. Если D(T) < 1, то при применении критерия Вилкоксона к выборкам с рассматриваемыми функциями распределения гипотеза однородности (2) будет приниматься чаще (при соответствующих значениях b и w - с вероятностью, сколь угодно близкой к 1), чем если бы она самом деле была верна. Если 1<D(T)<3, то гипотеза (2) также принимается достаточно часто. Так, если уровень значимости критерия Вилкоксона равен 0,05, то (асимптотическая) критическая область этого критерия имеет вид {T: U T U $ 1,96}. Если - самый плохой случай - D(T)=3, то гипотеза (2) принимается с вероятностью 0,7422.

*   *   *

   При проверке гипотезы однородности мы рассмотрели различные виды нулевых и альтернативных гипотез - гипотезу (2) и ее отрицание в качестве альтернативы, гипотезу (6) и ее отрицание, гипотезы о равенстве или различии медиан. В теоретических работах по математической статистике любят гипотезу сдвига, в которой альтернативой гипотезе (2) является гипотеза

H1: F(x) = G(x + r) при всех x и некотором r, отличным от 0. (12)

   Если верна альтернативная гипотеза H1, то вероятность P(X < Y) отлична от 1/2, и критерий Вилкоксона является состоятельным.

   В некоторых прикладных постановках гипотеза (12) представляется естественной. Например, если одним и тем же прибором проводятся две серии измерений двух значений некоторой величины (физической, химической и т.п.). При этом функция распределения G(x) описывает погрешности измерения одного значения, а G(x+r) - другого (вопреки распространенному заблуждению, хорошо известно, что распределение погрешностей измерений, как правило, не является нормальным - см. об этом консультацию [5]). Однако в большинстве прикладных постановок нет никаких оснований считать, что отсутствие однородности всегда выражается столь однозначным образом, как следует из формулы (12). Поэтому мы, рассматривая в статье [6] проблему выбора статистического критерия для проверки однородности, пришли к выводу о необходимости использования критериев, состоятельных против любого отклонения от гипотезы однородности (2), прежде всего критериев Смирнова и типа омега-квадрат (Лемана-Розенблатта).

   Почему же математики так любят гипотезу сдвига (12)? Да потому, что она дает возможность доказывать глубокие математические результаты, например, об асимптотической оптимальности критериев, как это продемонстрировано в монографии Я.Ю.Никитина [7]. К сожалению, с точки зрения прикладной статистики это напоминает поиск ключей под фонарем, где светло, а не там, где они потеряны. Впрочем, новые методы обычно сначала разрабатываются в лаборатории и только потом переносятся на производство.

   Отметим еще одно обстоятельство. Часто говорят (в соответствии с классическим подходом математической статистики), что нельзя проверять нулевые гипотезы без рассмотрения альтернативных. Однако при практическом анализе данных зачастую полностью ясна формулировка той гипотезы, которую желательно проверить (например, гипотезы полной однородности - см. формулу (2)), в то время как формулировка альтернативной гипотезы не очевидна (то ли это гипотеза о неверности равенства (2) хотя бы для одного значения x, то ли это альтернатива (8), то ли - альтернатива сдвига (12), и т.д.). В таких случаях целесообразно "обернуть" задачу - исходя из статистического критерия найти альтернативы, относительно которых он состоятелен. Именно это и проделано в настоящей статье для критерия Вилкоксона.

Литература

   1. Гаек Я., Шидак З. Теория ранговых критериев. - М.: Наука, 1971. - 376 с.

   2. Большев Л.Н., Смирнов Н.В. Таблицы математической статистики. - М.: ВЦ АН СССР, 1968. - 474 с.

   3. Холлендер М., Вулф Д.А. Непараметрические методы статистики. - М.: Финансы и статистика, 1983. - 518 с.

   4. Смолянский М.Л. Таблицы неопределенных интегралов. - М.: ГИФМЛ, 1961. - 108 с.

   5. Орлов А.И. / Заводская лаборатория. 1991. Т.57. No. 7. С.64-66.

   6. Орлов А.И. / Вестник Академии медицинских наук СССР. 1987. No.2. С.88-94.

   7. Никитин Я.Ю. Асимптотическая эффективность непараметрических критериев. - М.: Наука, 1995. - 240 с.

А.И.Орлов,
профессор, доктор технических наук,
академик Российской академии статистических методов

*   *   *   *   *   *   *

Реклама

Цикл семинаров по налоговому праву и управлению
под руководством Пархачёвой Марины Анатольевны.

   Задачей проведения семинаров является:

   - более глубокое изучение предлагаемой темы, дающее возможность участникам семинара оценить совершаемые организациями хозяйственные операции с позиций гражданского, бухгалтерского и налогового законодательства;

   - разбор как стандартных, так и нестандартных ситуаций, позволяющий слушателям самостоятельно выявить допущенные ими ошибки;

   - выработка у налогоплательщиков позиций по сложным вопросам, которые могут быть применены ими в любой ситуации при осуществлении практической деятельности;

   - предоставление дополнительных аргументов для споров с налоговыми органами по неоднозначным вопросам налогового учета.

   Всем участникам семинаров предоставляются методические материалы по рассматриваемой теме. Кроме того, зарегистрированные слушатели после оплаты стоимости семинара могут задать свой вопрос в письменном виде (по факсу 187-08-64 или по e-mail) и получить ответ в ходе семинара.

Программы семинаров на второе полугодие 2002 года:

   17 - 18 декабря 2002 г.
   "Затраты в управленческом учете: концепции и использование"

   24 декабря 2002 г.
   "Что и как делать малому бизнесу в 2003г."(с учетом последних изменений в законодательстве)

   Участники семинаров обеспечиваются методическими материалами или книгами лекторов семинаров. При повторном посещении семинаров предусматривается скидка.

На страницу семинаров

   Вы можете заранее задать вопросы по теме семинара, ответы на которые Вы хотели бы получить на семинаре. Для этого необходимо выслать содержание вопроса, а также название и контактный телефон Вашей организации по тел./факсу: (095) 187-08-64 или по e-mail.

*   *   *   *   *   *   *

Это интересно...

   "Протоколы Интернет". "Почтовый сервер". "Таблица разделов". "Прошивка BIOS"... Вам про все это хочется знать, но не у кого спросить, а книги на полках магазинов такие сложные и занудные, да к тому же еще и дорогие? Просто совет: обратите внимание на книгу "Тайны и секреты компьютера" - http://comptain.fromru.com. Поищите ее в магазинах, если хотите, или возьмите здесь. В одной книге вы найдете образный, легкий, но в то же время профессиональный рассказ как об устройстве компьютеров, так и о том, как их возможности использовать в своих целях. Берите и читайте - не пожалеете ни о цене, ни о времени на чтение.

*   *   *   *   *   *   *

   На сайте http://antorlov.euro.ru или его зеркале http://www.newtech.ru/~orlov Вы можете найти:
   1. Макрос Microsoft Word 97/2000/XP "ВерсткаТекстаКнижкой" для создания в Word книжек размером в половину листа, макросы для создания каталогов файлов, извлечения из недр Word красивых значков.
   2. Макрос Microsoft Word 97/2000/XP Конвертор "Число-текст" с поддержкой русского, украинского и английского языков и двух падежей, обладающий также возможностью автоматического обновления вставленных текстовых расшифровок при изменении значений исходных чисел.
   3. Учебник профессора А.И.Орлова по менеджменту.
   4. Статьи А.И.Орлова по актуальным вопросам статистики и экономики.
   5. Лекцию об устройстве ядерных реакторов.
   6. Информацию об Институте высоких статистических технологий, который занимается развитием, изучением и внедрением современных методов анализа технических, экономических, социологических, медицинских данных.

   Страница рассылки - http://antorlov.euro.ru/ivst.htm или http://www.newtech.ru/~orlov/ivst.htm.

   В Москве для работы с сайтом www.newtech.ru/~orlov Вы можете воспользоваться бесплатным демо-доступом компании NewTech. Телефоны: (095)234-94-49, (095)956-37-46. Login: imt. Password: test, Primary DNS: 212.16.0.1, Secondary DNS: 193.232.112.1. Вход под этим логином бесплатный, сеанс связи неограничен. Если Вам отказывают в авторизации, то просто повторите дозвон позже.

   На сайте http://karamurza.chat.ru представлена книга видного современного философа и политолога С.Г.Кара-Мурзы "Опять вопросы вождям", которая является глубоким научным исследованием проблем западного и российского общества. Книга предназначена всем интересующимся политологическими и социологическими проблемами.

   Из книги Максима Калашникова "Битва за Небеса", представленной на сайте http://sw.rus-idea.com, Вы узнаете о том, какими должны были стать воздушно-космические силы СССР 2000 года и прочтете о русской авиации 20 века.

Удачи Вам и счастья!



http://subscribe.ru/
E-mail: ask@subscribe.ru
Отписаться
Убрать рекламу

В избранное