Отправляет email-рассылки с помощью сервиса Sendsay

Эконометрика

  Все выпуски  

Эконометрика - выпуск 326


Здравствуйте, уважаемые подписчики!

*   *   *   *   *   *   *

В 326-м выпуске рассылки "Эконометрика" от 23 апреля 2007 года продолжаем публикацию новой книги А.И. Орлова "В мире формул. Предварительные итоги (Материалы к научной автобиографии)". От вводных материалов переходим к части 1 "Статистическая теория". В этот выпуск включены разделы "Перспективные задачи прикладной и теоретической статистики" и "Теоретическая математическая статистика".

Все вышедшие выпуски Вы можете посмотреть в Архиве рассылки по адресу http://www.subscribe.ru/archive/science.humanity.econometrika.

*   *   *   *   *   *   *

В мире формул

Предварительные итоги

(Материалы к научной автобиографии)

А.И.Орлов
Москва, 2007

Продолжение
(Начало, включая содержание книги - в выпуске No.323 от 2 апреля, продолжение - в выпусках No.324 и No.325 от 9 и 16 апреля)

Статистическая теория

Мы не ставим перед собой целью описание истории развития (в течение последних 40 лет) тех наук, к которым относятся наши исследования. Однако целесообразно поместить в качестве введения к части "Статистическая теория" нашей книги поместить статью, написанную в январе 2007 г. по заказу редколлегии для юбилейного 20-го выпуска межвузовского сборника научных трудов "Статистические методы оценивания и проверки гипотез", в котором я поместил 12 статей, начиная с 1978 г.

Перспективные задачи прикладной и теоретической статистики

А.И. Орлов

1. Введение

2. Послевоенное развитие отечественной статистики

3. Новые идеи последних десятилетий: точки роста

4. Статистика объектов нечисловой природы

5. Основные идеи статистики объектов нечисловой природы

6. О нерешенных проблемах теоретической и прикладной статистики

7. Библиографический список

Аннотация

Проведен анализ послевоенного развития отечественной статистики. Выделены пять "точек роста": непараметрика, робастность, бутстреп, интервальная статистика, статистика объектов нечисловой природы. Обсуждается содержание, развитие и основные идеи статистики объектов нечисловой природы. Рассмотрен ряд нерешенных проблем теоретической и прикладной статистики.

1. Введение

Математические результаты объективны. Теорема либо доказана, либо нет. А вот о значении тех или иных результатов споры возникают. Тем более трудно настаивать на полной объективности выводов, рассуждая о развитии всей статистической науки. Поэтому жанр этой статьи - субъективный анализ состояния и перспектив развития нашей научной области.

Почему я выбрал эту тему для юбилейного сборника? На Учредительном съезде Всесоюзной статистической ассоциации (ВСА) в октябре 1990 г. коллеги выбрали меня вице-президентом ВСА (по секции статистических методов). С 80-х годов приходилось обдумывать ситуацию в статистике. Конкретные результаты я собрал в монографиях [1-3], которые можно рассматривать и как учебники (см. также книги и статьи на сайте "Высокие статистические технологии"). Доказательства многих конкретных результатов опубликованы в настоящем сборнике в 1978, 1980, 1986, 1988, 1990, 1991, 1993, 1995, 1996, 1998, 1999 и 2001 гг. А общие соображения - методологическая основа ведущихся работ - рассмотрены в этой статье.

2. Послевоенное развитие отечественной статистики

К 60-м годам в нашей стране сформировалась научно-практическая дисциплина, которую называем классической математической статистикой. Статистики моего поколения учились теории по книге Г. Крамера [4], написанной в военные годы и впервые изданной у нас в 1948 г. Из прикладных руководств назовем учебник [5] и таблицы с комментариями [6].

Затем внимание многих специалистов сосредоточилось на изучении математических конструкций, используемых в статистике. Примером таких работ является монография [7]. В ней получены продвинутые математические результаты, но нет ничего, что мог бы использовать статистик, анализирующий конкретные данные.

Как реакция на уход в математику выделилась новая научная дисциплина - прикладная статистика. В учебнике [1] в качестве рубежа, когда это стало очевидным, мы указали 1981 г. - дату выхода массовым тиражом (33 940 экз.) сборника [8], в названии которого использован термин "прикладная статистика". С этого времени линии развития математической статистики и прикладной статистики разошлись. Первая из этих дисциплин полностью ушла в математику, перестав интересоваться практическими делами. Вторая позиционировала себя в качестве науки об обработке данных - результатов наблюдений, измерений, испытаний, анализов, опытов.

Вполне естественно, что в прикладной статистике стали развиваться математические методы и модели. Необходимость их развития вытекает из потребностей конкретных прикладных исследований. Это математизированное ядро прикладной статистики хочется назвать теоретической статистикой. Тогда под собственно прикладной статистикой следует понимать обширную промежуточную область между теоретической статистикой и применением статистических методов в конкретных областях. В нее входят, в частности, вопросы формирования вероятностно-статистических моделей и выбора конкретных методов анализа данных (т.е. методология прикладной статистики и других статистических методов), проблемы разработки и применения информационных статистических технологий, организации сбора и анализа данных, т.е. разработки статистических технологий.

Таким образом, общая схема современной статистической науки выглядит следующим образом (от абстрактного к конкретному):

1. Математическая статистика - часть математики, изучающая статистические структуры. Сама по себе не дает рецептов анализа статистических данных, однако разрабатывает методы, полезные для использования в теоретической статистике.

2. Теоретическая статистика - наука, посвященная моделям и методам анализа конкретных статистических данных.

3. Прикладная статистика (в узком смысле) посвящена статистическим технологиям сбора и обработки данных. Она включает в себя методологию статистических методов, вопросы организации выборочных исследований, разработки статистических технологий, создания и использования статистических программных продуктов.

4. Применение статистических методов в конкретных областях (в экономике и менеджменте - эконометрика, в биологии - биометрика, в химии - хемометрия, в технических исследованиях - технометрика, в геологии, демографии, социологии, медицине, истории, и т.д.).

Часто позиции 2 и 3 вместе называют прикладной статистикой. Иногда позицию 1 именуют теоретической статистикой. Эти терминологические неточности связаны с тем, что описанное выше развитие рассматриваемой научно-прикладной области не сразу, не полностью и не всегда адекватно отражается в сознании специалистов. Так, до сих пор выпускают учебники, соответствующие уровню представлений середины ХХ века.

Примечание. Здесь мы уточнили схему внутреннего деления статистической теории, предложенную в [9]. Естественный смысл приобрели термины "теоретическая статистика" и "прикладная статистика" (в узком смысле). Однако необходимо иметь в виду, что в недавнем учебнике [1] прикладная статистика понимается в широком смысле, т.е. как объединение позиций 2 и 3. К сожалению, в настоящее время невозможно отождествить теоретическую статистику с математической, поскольку последняя (как часть математики - научной специальности "теория вероятностей и математическая статистика") полностью оторвалась от задач практики.

Отметим, что математическая статистика, как и теоретическая с прикладной, не имеет ничего общего с ведомственной наукой органов официальной государственной статистики. ЦСУ, Госкомстат, Росстат применяли и применяют лишь проверенные временем приемы позапрошлого века. Возможно, следовало бы от этого ведомства отмежеваться и сменить название дисциплины, например, на "Анализ данных". В настоящее время компромиссным самоназванием нашей научно-практической дисциплины является термин "статистические методы".

Во второй половине 80-х годов развернулось общественное движение, имеющее целью создание профессионального объединения статистиков. Аналогами являются британское Королевское статистическое общество (основано в 1834 г.) и Американская статистическая ассоциация (создана в 1839 г.). К сожалению, деятельность учрежденной в 1990 г. Всесоюзной статистической ассоциации оказалась парализованной в результате развала СССР. Некоторую активность проявили созданные на базе ВСА Российская ассоциация статистических методов, Российская академия статистических методов, Белорусская статистическая ассоциация. Пришло время оживить их деятельность.

В ходе создания ВСА было проанализировано состояние и перспективы развития теоретической и прикладной статистики. Обсудим их.

3. Новые идеи последних десятилетий: точки роста

В работе [10] выделено пять актуальных направлений, в которых развивается современная прикладная статистика, т.е. пять "точек роста" статистической науки: непараметрика, робастность, бутстреп, интервальная статистика, статистика объектов нечисловой природы. Кратко обсудим эти актуальные направления.

Непараметрика, или непараметрическая статистика, позволяет делать статистические выводы, оценивать характеристики и плотность распределения, проверять статистические гипотезы без слабо обоснованных предположений о том, что функция распределения элементов выборки входит в то или иное параметрическое семейство. Например, широко распространена вера в то, что статистические данные часто подчиняются нормальному распределению. Математики думают, что это - экспериментальный факт, установленный в прикладных исследованиях. Прикладники уверены, что математики доказали нормальность результатов наблюдений. Между тем анализ конкретных результатов наблюдений, в частности, погрешностей измерений, приводит всегда к одному и тому же выводу - в подавляющем большинстве случаев реальные распределения существенно отличаются от нормальных [2]. Некритическое использование гипотезы нормальности часто приводит к значительным ошибкам, например, при отбраковке резко выделяющихся результатов наблюдений (выбросов), при статистическом контроле качества и в других случаях [1]. Поэтому целесообразно использовать непараметрические методы, в которых на функции распределения результатов наблюдений наложены лишь весьма слабые требования. Обычно предполагается лишь их непрерывность. К настоящему времени с помощью непараметрических методов можно решать практически тот же круг задач, что ранее решался параметрическими методами. Однако эта информация еще не вошла в массовое сознание. До сих пор тупиковой тематике параметрической статистики посвящены обширные разделы учебников и программных продуктов.

Основная идея работ по робастности, или устойчивости, состоит в том, что выводы, полученные на основе математических методов исследования, должны мало меняться при небольших изменениях исходных данных и отклонениях от предпосылок модели [11]. Здесь есть два круга задач. Один - это изучение устойчивости распространенных алгоритмов анализа данных. Второй - поиск робастных алгоритмов для решения тех или иных задач. Отметим, что сам по себе термин "робастность" не имеет точно определенного смысла. Всегда необходимо указывать конкретную вероятностно-статистическую модель. При этом модель "засорения" Тьюки-Хубера-Хампеля обычно не является практически полезной. Дело в том, что она ориентирована на "утяжеление хвостов", а в реальных ситуациях "хвосты" обрезаются априорными ограничениями на результаты наблюдений, связанными, например, с ограниченностью шкал используемых средств измерения.

Бутстреп - направление непараметрической статистики, опирающееся на интенсивное использование информационных технологий. Основная идея состоит в "размножении выборок", т.е. в получении набора из многих выборок, напоминающих полученную в эксперименте. По такому набору можно оценить свойства различных статистических процедур, не прибегая к излишне обременительным семействам вероятностно-статистических моделей. Простейший способ "размножении выборки" состоит в исключении из нее одного результата наблюдения. Исключаем первое наблюдение, получаем выборку, похожую на исходную, но с объемом, уменьшенным на 1. Затем возвращаем исключенный результат первого наблюдения, но исключаем второе наблюдение. Получаем вторую выборку, похожую на исходную. Затем возвращаем результат второго наблюдения, и т.д. Есть и иные способы "размножения выборок". Например, можно по исходной выборке построить ту или иную оценку функции распределения, а затем методом статистических испытаний смоделировать ряд выборок из элементов, функция распределения которых совпадает с этой оценкой. Обобщая, можно сказать, что к настоящему времени в дополнение к классическим инструментам прикладной статистики - предельным теоремам теории вероятностей - добавились новые, основанный на интенсивном использовании компьютеров. Бутстреп - лишь один из таких инструментов. Метод статистических испытаний (Монте-Карло) - вот партнер и конкурент асимптотическим методам математической статистики.

Интервальная статистика - это совокупность методов анализа интервальных статистических данных. Вполне очевидно, что все средства измерения имеют погрешности. Однако до недавнего времени это очевидное обстоятельство никак не учитывалось в статистических процедурах. Только недавно начала развиваться теория интервальной статистики, в которой предполагается, что исходные данные - это не числа, а интервалы. Интервальную статистику можно рассматривать как часть интервальной математики. Выводы в ней часто принципиально отличны от классических. Основные результаты статистики интервальных данных были получены в статьях, опубликованных нами в данном сборнике, а подробные изложения включены в учебники [1, 3].

4. Статистика объектов нечисловой природы

Перейдем к статистике объектов нечисловой природы (она же - статистика нечисловых данных, или нечисловая статистика). Сначала напомним, что типичный исходный объект в прикладной статистике - это выборка, т.е. совокупность независимых одинаково распределенных случайных элементов. Какова природа этих элементов? В классической математической статистике элементы выборки - это числа. В многомерном статистическом анализе - вектора. А в нечисловой статистике элементы выборки - это объекты нечисловой природы, которые нельзя складывать и умножать на числа. Другими словами, объекты нечисловой природы лежат в пространствах, не имеющих векторной структуры.

Примерами объектов нечисловой природы являются:

- значения качественных признаков, в том числе результаты кодировки объектов с помощью заданного перечня категорий (градаций);

- упорядочения (ранжировки) экспертами образцов продукции (при оценке её технического уровня, качества и конкурентоспособности)) или заявок на проведение научных работ (при проведении конкурсов на выделение грантов);

- классификации, т.е. разбиения объектов на группы сходных между собой (кластеры);

- толерантности, т.е. бинарные отношения, описывающие сходство объектов между собой, например, сходства тематики научных работ, оцениваемого экспертами с целью рационального формирования экспертных советов внутри определенной области науки;

- результаты парных сравнений или контроля качества продукции по альтернативному признаку ("годен" - "брак"), т.е. последовательности из 0 и 1;

- множества (обычные или нечеткие), например, зоны, пораженные коррозией, или перечни возможных причин аварии, составленные экспертами независимо друг от друга;

- слова, предложения, тексты;

- вектора, координаты которых - совокупность значений разнотипных признаков, например, результат составления статистического отчета о научно-технической деятельности организации или анкета эксперта, в которой ответы на часть вопросов носят качественный характер, а на часть - количественный;

- ответы на вопросы экспертной, медицинской, маркетинговой или социологической анкеты, часть из которых носит количественный характер (возможно, интервальный), часть сводится к выбору одной из нескольких подсказок, а часть представляет собой тексты; и т.д.

Рассмотренные выше интервальные данные тоже можно рассматривать как пример объектов нечисловой природы, а именно, как частный случай нечетких множеств. Если характеристическая функция нечеткого множества равна 1 на некотором интервале и равна 0 вне этого интервала, то задание такого нечеткого множества эквивалентно заданию интервала. Напомним, что теория нечетких множеств в определенном смысле сводится к теории случайных множеств. Цикл соответствующих теорем приведен в работе [11], а также в учебниках [1-3].

С 70-х годов в основном на основе запросов теории экспертных оценок (а также технических исследований, экономики, социологии и медицины) развивались различные направления статистики объектов нечисловой природы. Были установлены основные связи между конкретными видами таких объектов, разработаны для них базовые вероятностные модели. Сводка дана в монографии [11].

Следующий этап (80-е годы) - выделение статистики объектов нечисловой природы в качестве самостоятельной дисциплины в рамках математических методов исследования, ядром которого являются методы статистического анализа данных произвольной природы. Для работ этого периода характерна сосредоточенность на внутренних проблемах нечисловой статистики.

К 90-м годам статистика объектов нечисловой природы с теоретической точки зрения была достаточно хорошо развита, основные идеи, подходы и методы были разработаны и изучены математически, в частности, доказано достаточно много теорем. Однако она оставалась недостаточно апробированной на практике. И в 90-е годы наступило время перейти от теоретико-статистических исследований к применению полученных результатов на практике и включить их в учебный процесс, что и было сделано (см., например, [1-3]).

Следует отметить, что в статистике объектов нечисловой природы одна и та же математическая схема может с успехом применяться во многих областях, для анализа данных различных типов, а потому ее лучше всего формулировать и изучать в наиболее общем виде, для объектов произвольной природы.

5. Основные идеи статистики объектов нечисловой природы

В чем принципиальная новизна нечисловой статистики? Для классической математической статистики характерна операция сложения. При расчете выборочных характеристик распределения (выборочное среднее арифметическое, выборочная дисперсия и др.), в регрессионном анализе и других областях этой научной дисциплины постоянно используются суммы. Математический аппарат - законы больших чисел, Центральная предельная теорема и другие теоремы - нацелены на изучение сумм. В нечисловой же статистике нельзя использовать операцию сложения, поскольку элементы выборки лежат в пространствах, где нет операции сложения. Методы обработки нечисловых данных основаны на принципиально ином математическом аппарате - на применении различных расстояний в пространствах объектов нечисловой природы.

Кратко рассмотрим несколько идей, развиваемых в статистике объектов нечисловой природы для данных, лежащих в пространствах произвольного вида. Они нацелены на решение классических задач описания данных, оценивания, проверки гипотез - но для неклассических данных, а потому неклассическими методами.

Первой обсудим проблему определения средних величин. В рамках теории измерений удается указать вид средних величин, соответствующих тем или иным шкалам измерения. В классической математической статистике средние величины вводят с помощью операций сложения (выборочное среднее арифметическое, математическое ожидание) или упорядочения (выборочная и теоретическая медианы). В пространствах произвольной природы средние значения нельзя определить с помощью операций сложения или упорядочения. Теоретические и эмпирические средние приходится вводить как решения экстремальных задач. Теоретическое среднее определяется как решение задачи минимизации математического ожидания (в классическом смысле) расстояния от случайного элемента со значениями в рассматриваемом пространстве до фиксированной точки этого пространства (минимизируется указанная функция от этой точки). Для эмпирического среднего математическое ожидание берется по эмпирическому распределению, т.е. берется сумма расстояний от некоторой точки до элементов выборки и затем минимизируется по этой точке. При этом как эмпирическое, так и теоретическое средние как решения экстремальных задач могут быть не единственными элементами рассматриваемого пространства, а являться некоторыми множествами таких элементов, которые могут оказаться и пустыми. Тем не менее удалось сформулировать и доказать законы больших чисел для средних величин, определенных указанным образом, т.е. установить сходимость (в специально определенном смысле) эмпирических средних к теоретическим [1, 2].

Оказалось, что методы доказательства законов больших чисел допускают существенно более широкую область применения, чем та, для которой они были разработаны. А именно, удалось изучить асимптотику решений экстремальных статистических задач, к которым, как известно, сводится большинство постановок прикладной статистики. В частности, кроме законов больших чисел установлена и состоятельность оценок минимального контраста, в том числе оценок максимального правдоподобия и робастных оценок. К настоящему времени подобные оценки изучены также и в интервальной статистике.

В статистике в пространствах произвольной природы большую роль играют непараметрические оценки плотности, используемые, в частности, в различных алгоритмах регрессионного, дискриминантного, кластерного анализов. В нечисловой статистике предложен и изучен ряд типов непараметрических оценок плотности в пространствах произвольной природы, в том числе в дискретных пространствах. В частности, доказана их состоятельность, изучена скорость сходимости и установлен примечательный факт совпадения наилучшей скорости сходимости в произвольном пространстве с той, которая имеет быть в классической теории для числовых случайных величин.

Дискриминантный, кластерный, регрессионный анализы в пространствах произвольной природы основаны либо на параметрической теории - и тогда применяется подход, связанный с асимптотикой решения экстремальных статистических задач - либо на непараметрической теории - и тогда используются алгоритмы на основе непараметрических оценок плотности.

Для проверки гипотез могут быть использованы статистики интегрального типа, в частности, типа омега-квадрат. Любопытно, что предельная теория таких статистик, построенная первоначально в классической постановке, приобрела естественный (завершенный, изящный) вид именно для пространств произвольного вида, поскольку при этом удалось провести рассуждения, опираясь на базовые математические соотношения, а не на те частные (с общей точки зрения), что были связаны с конечномерным пространством.

Представляют практический интерес результаты, связанные с конкретными областями статистики объектов нечисловой природы, в частности, со статистикой нечетких множеств и со статистикой случайных множеств (напомним, что теория нечетких множеств в определенном смысле сводится к теории случайных множеств), с непараметрической теорией парных сравнений и люсианов (бернуллиевских бинарных векторов), с аксиоматическим введением метрик в конкретных пространствах объектов нечисловой природы, а также с рядом других конкретных постановок.

Для анализа нечисловых, в частности, экспертных данных весьма важны методы классификации. С другой стороны, наиболее естественно ставить и решать задачи классификации, основанные на использовании расстояний или показателей различия, в рамках статистики объектов нечисловой природы. Это касается как распознавания образов с учителем (другими словами, дискриминантного анализа), так и распознавания образов без учителя (т.е. кластерного анализа).

6. О нерешенных проблемах теоретической и прикладной статистики

За каждым новым научным результатом открывается многообразие неизвестного. Рассмотрим несколько конкретных постановок.

В статистике в пространствах общей природы получены аналоги классического закона больших чисел. Но нет аналога центральной предельной теоремы. Какова скорость сходимости эмпирических средних к теоретическим? Как сравнить различные способы усреднения? В частности, что лучше применять для усреднения упорядочений - медиану Кемени или среднее по Кемени (среднее отличается от медианы тем, что в качестве показателя различия берется не расстояние Кемени, а его квадрат)? Какие конкретные представители различных классов непараметрических оценок плотности достойны рекомендации для использования в нацеленных на практическое применение алгоритмах анализа нечисловых данных?

До сих пор не проведена классификация классических статистических методов с точки зрения теории измерений. Законченные результаты получены только для теории средних [1-3]. Установлено, что для измерений в порядковой шкале в качестве средних можно использовать только порядковые статистики, например, медиану (при нечетном объеме выборки). Среднее арифметическое, столь любимое профанами, применять нельзя. Однако многочисленные эксперименты показывают, что упорядочения объектов по средним арифметическим рангов и по медианам рангов в подавляющем большинстве случаев совпадают. Нужна теория, объясняющая этот экспериментальный факт.

Все более широкое распространение получает теория нечеткости. Давно установлено, что она в определенном смысле сводится к теории случайных множеств [1-3]. Требуется на основе этого сведения проанализировать различные теоретические и прикладные постановки теории нечеткости и рассмотреть их в рамках вероятностно-статистического моделирования.

Перейдем к классическим областям статистики. Начнем с обсуждения влияния отклонений от традиционных предпосылок. В вероятностной теории статистических методов выборка обычно моделируется как конечная последовательность независимых одинаково распределенных случайных величин или векторов. В парадигме середины ХХ в. часто предполагают, что эти величины (вектора) имеют нормальное распределение.

При внимательном взгляде совершенно ясна нереалистичность приведенных классических предпосылок. Независимость результатов измерений обычно принимается "из общих предположений", между тем во многих случаях очевидна их коррелированность. Одинаковая распределенность также вызывает сомнения из-за изменения во времени свойств измеряемых образцов, средств измерения и психофизического состояния специалистов, проводящих измерения (испытания, анализы, опыты). Даже обоснованность самого применения вероятностных моделей иногда вызывает сомнения, например, при моделировании уникальных измерений (согласно классическим воззрениям, теорию вероятностей обычно привлекают при изучении массовых явлений). И уж совсем редко распределения результатов измерений можно считать нормальными [1, 2].

Итак, методы классической математической статистики обычно используют вне сферы их обоснованной применимости. Какова влияние отклонений от традиционных предпосылок на статистические выводы? В настоящее время об этом имеются лишь отрывочные сведения. Приведем три примера.

Пример 1. Построение доверительного интервала для математического ожидания обычно проводят с использованием распределения Стьюдента (при справедливости гипотезы нормальности). Как следует их Центральной предельной теоремы (ЦПТ) теории вероятностей, в асимптотике (при большом объеме выборки) такие расчетные методы дают правильные результаты (из ЦПТ вытекает использование квантилей нормального распределения, а из классической теории - квантилей распределения Стьюдента, но при росте объема выборки квантили распределения Стьюдента стремятся к соответствующим квантилям нормального распределения).

Пример 2. Для проверки однородности двух независимых выборок (на самом деле - для проверки равенства математических ожиданий) обычно рекомендуют использовать двухвыборочный критерий Стьюдента. Предпосылки его использования - это нормальность распределений, соответствующих выборкам, и равенство их дисперсий. Что будет при отклонении от нормальности распределений, из которых взяты выборки, от нормальности? Если объемы выборок равны или если дисперсии совпадают, то в асимптотике (когда объемы выборок безгранично возрастают) классический метод является корректным. Если же объемы выборок существенно отличаются или дисперсии различны, то критерий Стьюдента проверки гипотезы однородности применять нельзя, поскольку распределение двухвыборочной статистики Стьюдента будет существенно отличаться от классического. Поскольку проверка равенства дисперсий - более сложная задача, чем проверка равенства математических ожиданий, то для выборок разного объема использовать двухвыборочную статистику Стьюдента не следует, целесообразно применять критерий Крамера-Уэлча [1, 2].

Пример 3. В задаче отбраковки (исключения) резко выделяющихся наблюдений (выбросов) расчетные методы, основанные на нормальности, являются крайне неустойчивыми по отношению к отклонениям от нормальности, что полностью лишает эти методы научной обоснованности [1, 2].

Примеры 1-3 показывают весь спектр возможных свойств классических расчетных методов в случае отклонения от нормальности. Методы примера 1 оказываются вполне пригодными при таких отклонениях, примера 2 - пригодными в некоторых случаях, примера 3 - полностью непригодными.

Итак, имеется необходимость изучения свойств расчетных методов классической математической статистики, опирающихся на предположение нормальности, в ситуациях, когда это предположение не выполнено. Аппаратом для такого изучения наряду с методом Монте-Карло могут послужить предельные теоремы теории вероятностей, прежде всего ЦПТ, поскольку интересующие нас расчетные методы обычно используют разнообразные суммы. Пока подобное изучение не проведено, остается неясной научная ценность, например, применения основанного на предположении многомерной нормальности факторного анализа к векторам из переменных, принимающих небольшое число градаций и к тому же измеренных в порядковой шкале.

Почему необходимо изучение классических алгоритмов, а не построение новых, специально предназначенных для работы в условиях отклонения от классических предпосылок?

Во-первых, потому, что классические алгоритмы в настоящее время наиболее распространены (благодаря сложившейся системе образования прикладников). Например, в научных медицинских исследованиях для проверки однородности двух независимых выборок традиционно используют критерий Стьюдента, при этом условия его применимости не проверяют. Насколько обоснованными являются выводы? Как следует из примера 2, во многих случаях выводы нет оснований подвергать сомнению, хотя они получены с помощью некорректной процедуры.

Во-вторых, более новые подходы зачастую методологически уязвимы. Так, известная робастная модель засорения Тьюки-Хубера нацелена на борьбу с большими выбросами, которые зачастую физически невозможны из-за ограниченности интервала значений измеряемой характеристики, в котором работает конкретное средство измерения. Следовательно, модель Тьюки-Хубера-Хампеля имеет скорее теоретическое значение, чем практическое. Сказанное, конечно, не обозначает, что следует прекратить разработку, изучение и внедрение непараметрических и устойчивых методов, выделенных выше как "точки роста" современной прикладной статистики.

Нерешенным проблемам теоретической и прикладной статистики посвящены статьи [12, 13]. Одна из важных проблем - использование асимптотических результатов при конечных объемах выборок. Конечно, естественно изучить свойства алгоритма с помощью метода Монте-Карло. Однако из какого конкретного распределения брать выборки при моделировании? От выбора распределения зависит результат. Кроме того, датчики псевдослучайных чисел лишь имитируют случайность. До сих пор неизвестно, каким датчиком целесообразно пользоваться в случае возможного безграничного роста размерности пространства.

Другая проблема - обоснование выбор одного из многих критериев для проверки конкретной гипотезы. Например, для проверки однородности двух независимых выборок можно предложить критерии Стьюдента, Крамера-Уэлча, Лорда, хи-квадрат, Вилкоксона (Манна-Уитни), Ван-дер-Вардена, Сэвиджа, Н.В.Смирнова, типа омега-квадрат (Лемана-Розенблатта), Реньи, Г.В.Мартынова и др. Какой выбрать?

Критерии однородности проанализированы в [14]. Естественных подходов к сравнению критериев несколько - на основе асимптотической относительной эффективности по Бахадуру, Ходжесу-Леману, Питмену. И каждый критерий является оптимальным при соответствующей альтернативе или подходящем распределении на множестве альтернатив. При этом математические выкладки обычно используют альтернативу сдвига, сравнительно редко встречающуюся в практике анализа реальных статистических данных. Итог печален - блестящая математическая техника, продемонстрированная в [14], не позволяет дать рекомендации для выбора критерия проверки однородности при анализе реальных данных.

Проблемы разработки высоких статистических технологий поставлены в [15] (см. также одноименный сайт http://orlovs.pp.ru). Используемые при обработке реальных данных статистические технологии состоят из последовательности операций, каждая из которых, как правило, хорошо изучена, поскольку сводится к оцениванию (параметров, характеристик, распределений) или проверке той или иной гипотезы. Однако статистические свойства результатов обработки, полученных в результате последовательного применения таких операций, мало изучены. Необходима теория, позволяющая изучать свойства статистических технологий и так их конструировать, чтобы обеспечить высокое качество обработки данных.

7. Библиографический список

1. Орлов А.И. Прикладная статистика. - М.: Экзамен, 2006. - 672 с.

2. Орлов А.И. Эконометрика. Изд. 3-е, переработанное и дополненное. - М.: Экзамен, 2004. - 576 с.

3. Орлов А.И. Теория принятия решений.- М.: Экзамен, 2006. - 576 с.

4. Крамер Г. Математические методы статистики. - М.: Мир, 1975. - 648 с.

5. Смирнов Н.В., Дунин-Барковский И.В. Курс теории вероятностей и математической статистики для технических приложений. Изд. 3-е, стереотипное. - М.: Наука, 1969. - 512 с.

6. Большев Л.Н., Смирнов Н.В. Таблицы математической статистики / 3-е изд.- М.: Наука, 1983. - 416 с. (1-е изд. - 1965).

7. Каган А.М., Линник Ю.В., Рао С.Р. Характеризационные задачи математической статистики. - М.: Наука, 1972. - 656 с.

8. Современные проблемы кибернетики (прикладная статистика). - М.: Знание, 1981. - 64 с.

9. Орлов А.И. О перестройке статистической науки и её применений. - Журнал "Вестник статистики". 1990. No.1. С.65 - 71.

10. Орлов А.И. Современная прикладная статистика. - Журнал "Заводская лаборатория". 1998. Т.64. No.3. С. 52-60.

11. Орлов А.И. Устойчивость в социально-экономических моделях. - М.: Наука, 1979. - 296 с.

12. Загоруйко Н.Г., Орлов А.И. Некоторые нерешенные математические задачи прикладной статистики. - В сб.: Современные проблемы кибернетики (прикладная статистика). - М.: Знание, 1981. - С.53-63.

13. Орлов А.И. Некоторые нерешенные вопросы в области математических методов исследования. - Журнал "Заводская лаборатория". 2002. Т.68. No.3. С.52-56.

14. Никитин Я.Ю. Асимптотическая эффективность непараметрических критериев. - М.: Наука, 1995. - 240 с.

15. Орлов А.И. Высокие статистические технологии. - Журнал "Заводская лаборатория". 2003. Т.69. No.11. С.55-60.

*   *   *   *   *   *   *

Теоретическая математическая статистика

1. Оценка скорости сходимости

2. Асимптотическое поведение статистик интегрального типа

3. О теоретических результатах в прикладной статистике и иных областях

К теоретической математической статистике относим работы, посвященные изучению математических свойств статистических структур, но не позволяющие получить выводы, полезные для обработки конкретных данных. Если подобные выводы вытекают из результатов работы, относим ее к прикладной математической статистике.

Граница между теоретической математической статистикой и прикладной математической статистикой, конечно, условна, но обычно конкретную научную работу по статистической теории без долгих раздумий можно отнести к той или иной из этих областей. Критерий прост: на основе работы по прикладной математической статистике можно составить методику (алгоритм) обработки конкретных статистических данных (или получить полезные сведения о такой методике, например, рекомендации по области ее применения. В то время как работа по теоретической математической статистике, хотя и посвящена свойствам статистических структур, не позволяет непосредственно перейти к обработке конкретных данных.

Иногда в работе по теоретической математической статистике развивается математический аппарат (техника), позволяющий получать полезные результаты в области прикладной математической статистики. Например, математический аппарат, созданный в разработанной нами предельной теории статистик интегрального типа, позволяет получить предельные распределения для конкретных статистик типа омега-квадрат, например, для статистики, предложенной нами для проверки симметрии распределения относительно 0 (см. ниже). Отметим, что реальный ход исследований шел в противоположном направлении: сначала была предложена и изучена конкретная статистика типа омега-квадрат, а потом в качестве обобщения построена предельная теория статистик интегрального типа и получены - в качестве окончательных результатов - необходимые и достаточные условия.

Часто даже в перспективе не просматривается возможность использования результатов работы по теоретической математической статистике при обработке реальных данных. Например, с прикладной точки зрения оценку скорости сходимости распределения классической статистики омега-квадрат (статистики Крамера-Мизеса-Смирнова) следовало бы проводить методами вычислительной математики с целью выявления зоны применимости предельного распределения и получения точных распределений и/или поправок при конечных объемах выборок. Оценки типа О(.) в принципе не могут иметь практического значения. Однако они интересны с чисто математической точки зрения (см. ниже).

Для математики такая ситуация обычна. Например, т.н. "великая теорема Ферма" не имеет никакой связи с практикой. Однако сколько веков она о ней говорят!

1. Оценка скорости сходимости

Первая моя научная публикация - резюме доклада в Математическом институте АН СССР весной 1971 г., когда я был студентом пятого курса.

15. Орлов А.И. Оценки скорости сходимости к пределу распределений некоторых статистик. - Журнал "Теория вероятностей и ее применения". 1971. Т. XVI. No.3. С. 583-584.

Речь шла об оценке максимального расхождения функции распределения статистики омега-квадрат (Крамера-Мизеса-Смирнова) и предельной функции распределения. Оценка имела вид "О-большое от объема выборки в степени (-С)".

Существенно, что ряд достаточно известных исследователей решали задачу в такой постановке и получили оценку при С = 1/10, 1/6, 1/5, 1/4. В моей первой опубликованной научной работе оценка была получена при С = 1/3. Летом того же 1971 г. я разработал новый метод - "процесс итерации формул". С его помощью получил оценку с С = 1/2, ставшую основным результатом кандидатской диссертации.

Для меня рассматриваемая научная проблема возникла естественным образом как третий шаг на пути исследований. Первым шагом было построение и изучение критерия типа омега-квадрат для проверки симметрии распределения относительно 0 (данная работа относится к прикладной математической статистике - см. раздел "Статистика случайных величин"). Это была курсовая работа на четвертом году обучения, задача была поставлена научным руководителем Ю.Н. Тюриным. Второй шаг - построение предельной теории статистик интегрального типа, включающей ряд необходимых и достаточных условий. Это направление работ Ю.Н. Тюрин уже не одобрил - зачем нужны необходимые и достаточные условия? Однако результаты первых двух шагов были объединены в моей дипломной работе, выполненной на кафедре теории вероятностей математической статистики (заведующий - Б.В. Гнеденко) механико-математического факультета Московского государственного университета им. М.В. Ломоносова, защищенной весной 1971 г..

Третий шаг - изучение скорости сходимости - уже не относился к диплому и послужил началом работы над кандидатской диссертацией. Эта постановка задачи Ю.Н. Тюрину тоже не нравилась, поскольку была чисто абстрактной и не вела к получению полезных для практики рекомендаций. Проще сказать, относилась к теоретической статистике, а не к прикладной. В этом он был прав. С точки зрения прикладной статистики следовало бы численно изучать функцию распределения статистики омега-квадрат и ее отклонение от предельной. Через 20 лет так и сделали минские исследователи (Залесский Б.А., Ольшевская О.В. / Заводская лаборатория. 1989. Т.55. No. 7. С.103-105).

Однако оказалось, что я опередил ряд исследователей, в частности, американца Дж. Кифера и ленинградца Я.Ю. Никитина, чьи работы с С = 1/4 были опубликованы в 1972 г., т.е. позже моего резюме 1971 г. Так что для теоретической математической статистики рассматриваемая постановка была весьма актуальной. История вопроса с подробными ссылками опубликована в разделе 2.3 моей первой научной монографии:

131. Орлов А.И. Устойчивость в социально-экономических моделях (Серия "Проблемы советской экономики", в надзаг. ЦЭМИ АН СССР). - М.: Наука,1979.- 296 с.

После первого доклада последовали дальнейшие, в том числе с включением результатов по смежным вопросам теории статистик интегрального типа:

37. Орлов А.И. Переход от сумм к интегралам и его применения в изучении асимптотических распределений статистик. - Журнал "Теория вероятностей и ее применения". 1973. Т. XVIII. No.4. С. 881-883.

39. Орлов А.И. Предельные теоремы для статистик интегрального типа. - В сб.: Тезисы докладов Международной конференции по теории вероятностей и математической статистике (Вильнюс, 25-30 июня 1973 г.). Т.2. - Вильнюс: Изд-во Вильнюсского госуниверситета, 1973. С.137-140.

50. Орлов А.И. Применение критериев типа омега-квадрат для проверки принадлежности функции распределения выборки некоторому семейству. - В сб.: Многомерный статистический анализ в социально-экономических исследованиях. - М.: Наука, 1974. С.401-403.

Основная публикация по этой тематике - большая статья:

47. Орлов А.И. Скорость сходимости распределения статистики Мизеса - Смирнова. - Журнал "Теория вероятностей и ее применения". 1974. Т.19. No.4. С.766-786.

Помнится, я около года не мог собраться доработать статью по замечаниям рецензента. Связано это было, конечно, с объективными причинами. Тяжело болела и в июне 1973 г. умерла моя мать. Активно шла работа по новым направлениям исследований - статистике нечисловых данных, управлению запасами. ВМШ и связанные с нею издательские проекты требовали сил. Все же, мысленно возвращаясь назад, думаю, что надо было по-иному расставить приоритеты. Мог бы защитить кандидатскую диссертацию на 2-3 года раньше, а это могло изменить к лучшему и дальнейшую жизненную траекторию.

Диссертацию я закончил в мае 1975 г.:

75. Орлов А.И. Оценки скорости сходимости распределений статистик интегрального типа. Диссертация на соискание ученой степени кандидата физико-математических наук (рукопись). - М.: ЦЭМИ АН СССР, 1975. - 148 стр.

Вся она представляла собой доказательство одной-единственной теоремы на основе разработанного мой еще летом 1971 г. процесса "итерации формул". За всю мою жизнь это была самая сложная работа с точки зрения математической техники. Две другие - это "теорема о медиане" в теории измерений:

49. Орлов А.И. Допустимые средние в некоторых задачах экспертных оценок и агрегирования показателей качества. - В сб.: Многомерный статистический анализ в социально-экономических исследованиях. - М.: Наука, 1974. С. 388-393.

и характеризация моделей с дисконтированием среди всех моделей динамического программирования:

103. Orlov A. Sur la stabilite' dans les modeles economiques discrets et les modeles de gestion des stocks. - Журнал "Publications Econometriques". 1977. Vol.X. F. 2. Pp.63-81.

По диссертации был сделан доклад в Математическом институте им. В.А. Стеклова:

68. Орлов А.И. Оценки скорости сходимости распределений статистик интегрального типа, определенных с помощью эмпирических процессов. - Журнал "Теория вероятностей и ее применения". 1975. Т. XX. No.3. С. 698-700.

А также доклад в Ташкенте, куда были включены и результаты по предельной теории статистик интегрального типа:

67. Орлов А.И. Асимптотические свойства статистик интегрального типа. - В сб.: Тезисы докладов III советско-японского симпозиума по теории вероятностей (Ташкент, 26 августа - 3 сентября 1975 г.). Т.1. - Ташкент: Изд-во "Фан", 1975. С.126-128.

Защита кандидатской диссертации состоялась лишь в октябре 1976 г.:

85. Орлов А.И. Оценки скорости сходимости распределений статистик интегрального типа. Автореферат диссертации на соискание ученой степени кандидата физико-математических наук (на правах рукописи). - М.: МГУ, ф-т вычислительной математики и кибернетики, 1976. - 16 с.

Наверно, это рекорд - до защиты было 84 публикации (правда, включая научно-популярные - см. раздел "Внеклассная математика"). У многих профессоров-докторов за всю жизнь бывает меньше. Конечно, только по числу публикаций нельзя судить о значимости вклада в науку и практику. Но об активности судить можно.

Защита задержалась по объективным причинам - происходила реформа ВАК. Но и по субъективным - не проявил я настойчивости. Научного руководителя у меня не было. К сожалению, я решил не выбиваться из стандарта и вписал в автореферат в качестве руководителя своего начальника Айвазяна С.А. Он не имел отношения к работе, о чем честно признался на защите.

А затем - после получения мною в 1971 г. основных результатов кандидатской диссертации - развитие науки пошло дальше. Группа венгерских математиков в 1974 г. разработала новый вариант т.н. "метода единого вероятностного пространства", который позволил принципиально иным способом несколько улучшить мой результат с С=1/2. Я сам это сделал в статье:

148. Орлов А.И. Неравномерные оценки скорости сходимости в принципе инвариантности. - В сб.: Статистические методы оценивания и проверки гипотез. Межвузовский сборник научных трудов. - Пермь: Изд-во Пермского государственного университета, 1980, с.135-146.

Однако эта статья уже не выделялась по математической сложности среди иных. Принципиальный прорыв был сделан именно венграми.

Другие авторы довели работу до конца - до С=1. Большего значения получить нельзя, как я установил в основной работе 1974 г. по этой тематике:

47. Орлов А.И. Скорость сходимости распределения статистики Мизеса - Смирнова. - Журнал "Теория вероятностей и ее применения". 1974. Т.19. No.4. С.766-786.

Таким образом, сохранить первенство при изучении скорости сходимости для функции распределения статистики омега-квадрат (Крамера-Мизеса-Смирнова) не удалось. Для этой конкретной статистики другие авторы получили более сильные результаты. Однако, как обычно и бывает, были получены не превзойденные никем до сих пор оценки для похожих статистик, например, для статистики Лемана-Розенблатта типа омега-квадрат, предназначенной для проверки однородности двух независимых выборок. В статье

102. Орлов А.И. Некоторые проблемы устойчивости в социально-экономических моделях и статистике, I. - В сб.: Избранные вопросы теории вероятностей и математической экономики. - М.: Изд-во ЦЭМИ АН СССР, 1977. С.47-91.

рассмотрены дальнейшие пути развития рассматриваемой тематики, сформулировано около 30 нерешенных задач. Это типичная ситуация - любое продвижение вперед порождает огромное число новых постановок.

Но - не было стимула двигаться дальше. Кому это надо - вот вопрос, на который не было ответа. Соревнование по конкретному вопросу (по классической статистике Крамера-Мизеса-Смирнова) закончилось. Принципиально новые методы и результаты не просматривались. Главное же - мне было ясно, что пользы для прикладных работ не получить. К тому же у меня появилась большая новая тематика, которую я вначале объединил идеей устойчивости, а затем выделил как самостоятельное направление в статистической теории - статистику объектов нечисловой природы.

Итог - рассматриваемое направление научных исследований для меня закончилось.

2. Асимптотическое поведение статистик интегрального типа

Как уже отмечалось, чуть раньше начались работы по статистикам интегрального типа. Первой был класс статистик типа омега-квадрат для проверки симметрии относительно 0, введенный и изученный в курсовой работе на 4-м году обучения:

25. Орлов А.И. О проверке симметрии распределения. - Журнал "Теория вероятностей и ее применения". 1972. Т.17. No.2. С.372-377.

Эту работу мы относим к прикладной статистике. Статья сдана в журнал "Теория вероятностей и ее применения" в 1970 г. А вот общая теория была впервые разработана, судя по сохранившейся рукописи, осенью и зимой 1970 г. Она была отражена в моей дипломной работе (1971), а затем в двух докладах, полностью посвященных этой тематике:

36. Орлов А.И. Необходимые и достаточные условия в предельной теории статистик интегрального типа. - Журнал "Теория вероятностей и ее применения". 1973. Т. XVIII. No.3. С. 673-675. (Доклад на секции теории вероятностей Московского математического общества.)

38. Орлов А.И. Необходимые и достаточные условия в предельной теории для интегралов от случайных процессов и их применения в статистике. - В сб.: Материалы Всесоюзного симпозиума по статистике случайных процессов (Киев, 5-8 июня 1973 г.). - Киев: Изд-во Киевского государственного ун-та, 1973. С.144-146. (Не ездил.)

А также в ранее упомянутых докладах в связке с результатами по оценке скорости сходимости:

37. Орлов А.И. Переход от сумм к интегралам и его применения в изучении асимптотических распределений статистик. - Журнал "Теория вероятностей и ее применения". 1973. Т. XVIII. No.4. С. 881-883.

39. Орлов А.И. Предельные теоремы для статистик интегрального типа. - В сб.: Тезисы докладов Международной конференции по теории вероятностей и математической статистике (Вильнюс, 25-30 июня 1973 г.). Т.2. - Вильнюс: Изд-во Вильнюсского госуниверситета, 1973. С.137-140.

50. Орлов А.И. Применение критериев типа омега-квадрат для проверки принадлежности функции распределения выборки некоторому семейству. - В сб.: Многомерный статистический анализ в социально-экономических исследованиях. - М.: Наука, 1974. С.401-403.

Окончательная формулировка была опубликована в "Докладах АН СССР" (статья представлена академиком Ю.В. Прохоровым):

46. Орлов А.И. Асимптотическое поведение статистик интегрального типа. - Журнал "Доклады АН СССР". 1974. Т.219. No.4. С. 808-811.

В этой неоднократно переписанной статье я достиг предела по количеству информации на один печатный знак. Думаю, что в результате она оказалась никому не понятной. Приведенными в ней теоремами о необходимых и достаточных условиях я горжусь и сейчас. Необходимые условия показывают, что достаточные условия не могут быть усилены.

Через 15 лет я вернулся к этой тематике, рассмотрев постановки в естественной общности - вместо интегрирования по конечномерному пространству брались интегралы по пространству общей природы:

250. Орлов А.И. Асимптотическое поведение статистик интегрального типа. - В сб.: Вероятностные процессы и их приложения. Межвузовский сборник научных трудов. - М.: МИЭМ, 1989. С.118-123.

Формулировки стали более естественными. Отметим, что цикл полученных теорем полностью заменяет известный "принцип инвариантности" применительно к непараметрическим статистикам типа Колмогорова-Смирнова и омега-квадрат. Другими словами, асимптотическое поведение классических и новых непараметрических статистик можно получить на основе нашего метода приближения ступенчатыми функциями, не обращаясь к принципу инвариантности Прохорова-Скорохода.

Некоторые из теорем о необходимых и достаточных условий рассмотрены в монографиях:

131. Орлов А.И. Устойчивость в социально-экономических моделях (Серия "Проблемы советской экономики"). - М.: Наука, 1979.- 296 с.

611. Орлов А.И. Прикладная статистика. Учебник. - М.: Экзамен, 2006. - 672 с.

Речь идет, прежде всего, о необходимых и достаточных условиях "наследования сходимости", т.е. вывода сходимости значений функции из сходимости аргументов. Результаты о "наследовании сходимости" постоянно применяются в прикладной математической статистике, в отличие от других результатов предельной теории статистик интегрального типа, имеющих ограниченную применимость (к статистикам интегрального типа).

Однако доказательства полученных в предельной теории статистик интегрального типа так и не были опубликованы полностью, тем более в математических изданиях. Предельная теория статистик интегрального типа, в том числе цикл теорем о необходимых и достаточных условиях, заслуживает подробной публикации.

3. О теоретических результатах в прикладной статистике

Интересные с математической точки зрения результаты получены в ряде областей прикладной статистики, прежде всего в статистике объектов нечисловой природы и особенно в ее центральной части - в статистике в пространствах произвольной природы. Так, при изучении асимптотического поведения решений экстремальных статистических задач и непараметрических оценок плотности вероятности использовался аппарат общей топологии.

Были и иные интересные постановки. В теории люсианов и в статистическом контроле применялись несмещенные оценке (в асимптотике растущей размерности). В асимптотике квантования и при моделировании систем управления запасами рассматривались суммы случайного числа случайных слагаемых. И т.д., и т.п.

Поскольку эти исследования были стимулированы потребностями прикладных областей и получали непосредственные практические применения, мы рассматриваем их в комментариях к соответствующим разделам, а не здесь.

*   *   *   *   *   *   *

На сайте "Высокие статистические технологии", расположенном по адресу http://orlovs.pp.ru, представлены:

На сайте работает форум, в котором вы можете задать вопросы профессору А.И.Орлову и получить на них ответ.

Заходите - вас будут рады видеть!

*   *   *   *   *   *   *

Программа "Диссер" - дополнение для Microsoft Word, предназначенное для создания и работы со списками литературы. В диссертациях, научных статьях, рефератах требуется приводить список использованной литературы, вставляя в текст диссертации ссылки на его позиции. При большом размере списка отслеживать соответствия порядковых номеров публикаций в списке и чисел в ссылках в тексте диссертации становится крайне сложно, особенно при изменении порядка следования ссылок в списке. Эта программа добавляет в Word новую функцию - создание и редактирование списка литературы, позволяя исправлять численные ссылки в тексте одним нажатием кнопки. "Диссер" можно загрузить с сайта http://kankowski.narod.ru.

Удачи вам и счастья!


В избранное