Пусть параметрическое семейство F есть семейство абсолютно непрерывных распределений, и распределениепри гипотезе H j , задается плотностью распределения вероятностейj=0,1. Пусть при любом значении x, принадлежащем множеству возможных значений наблюдаемой случайной величины, выполняется условие:, j=0,1 . Рассмотрим статистику

Будем строить критерий, основанный на статистике l(X) , называемой статистикой отношения правдоподобия .

Cтатистика l(X) может принимать значения

Где x i ? R 1 , i=1,...,n.

Из вероятностного смысла плотности распределения естественно ожидать, что большие значения статистики l(X) скорее всего будут свидетельствовать против основной гипотезы H 0 . Поэтому критическую область естественно задать в виде больших значений статистики l(X):

Где?- вероятность ошибки 1-го рода.

Обозначим через вероятность. Покажем, что с ростом аргументафункцияможет только убывать, при этом. Действительно

Из полученного соотношения (1) следует, что, поэтому, когда.

Чтобы критерий имел заданную вероятность ошибки 1-го рода?, граничная постояннаядолжна удовлетворять условию:

Если существует такое значение =, при котором, то критерий, задаваемый граничной константой, имеет заданную вероятность ошибки 1-го рода. Построенный критерий однозначно определяет вероятность ошибки второго рода?:

Имеет место следующее утверждение.

Лемма Неймана-Пирсона. Среди всех критериев уровня значимости?

для проверки двух простых параметрических гипотез H 0 и H 1

критерий Неймана-Пирсона, задаваемый критической областью

где граничная константа определяется из соотношения (2),

является наиболее мощным.

Доказательство.

Пусть - произвольный критерий уровня значимости?для проверки простых гипотез H 0 и H 1 , отличный от. Его мощность при альтернативе равна

Для критерия Неймана-Пирсона мощность при альтернативе равна

По определению множества вне этого множества (первый интеграл в соотношении (3))

а для элементов множества (второй интеграл в соотношении (3))

Поэтому из соотношения (3) получаем, что

Oба критерия иимеют один и тот же уровень значимости?,

. (Они оба равны?)

Это значит, что оба интеграла в соотношении (4) отличаются от?

на одну и ту же величину

следовательно, они равны, поэтому для любого критерия уровня значимости?, отличного от критерия Неймана-Пирсона, имеет место неравенство

а это означает, что критерий Неймана-Пирсона является наиболее мощным критерием.

Последствия ошибок первого и второго рода часто оказываются соверенно различными. Например, проверяется наличие у человека некоторого опасного заболевания. Неправильное заключение о наличии на самом деле не существующего заболевания приводит к необходимости применения вредных для больного лекарств. С другой стороны, неудача в попытке обнаружить имеющееся заболевание может привести к трагическим последствиям.

Другое обстоятельство, которое часто влияет на выбор уровня значимости - это наше отношение к гипотезе до проведения эксперимента. Если мы твердо верим в истинность гипотезы, то потребуются убедительные свидетельства против неё для того, чтобы мы отказались от своей уверенности. Соответственно уровень значимости будет выбран весьма малым, так как низкий уровень значимости приводит к тому, что гипотеза отвергается при таких комбинациях результатов наблюдений, вероятность которых мала, то есть появление этих результатов крайне неправдоподобно при справедливости проверяемой гипотезы. Заметим, что задача выбора значения уровня значимости критерия?- это не математическая задача.

Критерий Неймана-Пирсона применяется в двоичных системах в ситуациях, когда невозможно определить априорные вероятности отдельных сообщений, а последствия ошибок разного рода неодинаковы. Такая ситуация типична для радиолокации, где осуществляется зондирование пространства узким радиолучом и прием отраженного от цели сигнала. При этом имеют место две ситуации: 1) наличие цели – колебание на входе приемника содержит сигнал в аддитивной смеси с помехой (с неизвестной априорной вероятностью P (b 1)), 2) отсутствие цели – на входе приемника действует одна помеха (с вероятностью P (b 0) = 1 – P (b 1)). Задача приема – обнаружение сигнала на фоне помех. При ее реализации возможны два вида ошибок:

1) пропуск цели (цель есть, но отраженный сигнал не обнаружен) с условной вероятностью ;

2) ложная тревога (цель отсутствует, но принято решение о наличии отраженного сигнала) с условной вероятностью .

Очевидно, что последствия этих ошибок сильно различаются.

В таком случае целесообразно стремиться к уменьшению условной вероятности ошибки, вызывающей особо тяжелые последствия (пропуск цели), что можно сделать только за счет увеличения вероятности ошибки другого вида (ложной тревоги). Ясно, что это можно делать до определенной степени, т. к. слишком большая вероятность ложной тревоги приведет к ощутимым экономическим потерям и к подрыву доверия к системе в целом. Разумный выход – зафиксировать вероятность ложной тревоги на выбранном уровне ε

, (6.8)

и затем минимизировать вероятность пропуска цели

Минимизация (6.9) при заданной величине (6.8) достигается, если решение о наличии цели принимается при выполнении неравенства

,

где λ(ε) – пороговый уровень, определяемый заданной вероятностью ложной тревоги.

Контрольные вопросы

1. Сформулируйте задачу оптимального приема дискретных сообщений.

2. Дайте геометрическую трактовку задаче оптимального приема дискретных сообщений.

3. Что называют правилом решения (решающей схемой) демодулятора?

4. Что такое идеальный (оптимальный) приемник дискретных сообщений?

5. Что понимают под потенциальной помехоустойчивостью приема дискретных сообщений?

6. В чем суть теории потенциальной помехоустойчивости? Когда и кем были заложены ее основы?

7. Какой смысл вкладывают в понятие критерия качества приема дискретных сообщений? Перечислите известные Вам критерии.

8. В чем суть критерия идеального наблюдателя (критерия Котельникова)?

9. Укажите особенности критерия Котельникова.

10. Что представляет собой критерий максимального правдоподобия? Как он соотносится с критерием Котельникова?

Одним из существенных недостатков байесовского правила обнаружения сигналов является большое количество априорной информации о потерях и вероятностях состоянии объекта, которая должна быть в распоряжении наблюдателя. Этот недостаток наиболее отчетливо проявляется при анализе радиолокационных задач обнаружения цепи, когда указать априорные вероятности наличия цели в заданной области пространства и потери за счет ложной тревоги или пропуска цели оказывается весьма затруднительным. Поэтому в подобных задачах вместо байесовского критерия обычно используется критерий Неймана-Пирсона. Согласно этому критерию выбирается такое правило обнаружения, которое обеспечивает минимальную величину вероятности пропуска сигнала (максимальную вероятность правильного обнаружения) при условии, что вероятность ложной тревоги не превышает заданной величины . Таким образом, оптимальное, в смысле критерия Неймана-Пирсона, правило обнаружения минимизирует

(3.12)

при дополнительном ограничении

. (3.13)

Для поиска оптимальной процедуры обработки данных преобразуем задачу на условный экстремум (3.12) при условии (3.13) к задаче на безусловный экстремум. С этой целью воспользуемся методом множителей Лагранжа . Введем множитель Лагранжа и запишем функцию Лагранжа

. (3.14)

После преобразований, аналогичных выводу формулы (3.5), соотношение (3.14) можно переписать в виде:

.

Сравнение полученного выражения с формулой (3.5) показывает, что минимум функции Лагранжа достигается, если в качестве критической области выбрать совокупность точек , удовлетворяющих неравенству

При этом множитель , являющийся пороговым значением, должен находиться из условия (3.13) равенства вероятности ложной тревоги заданной величине .

Из сравнения (3.15) и (3.8) можно заключить, что оптимальное, в смысле критерия Неймана-Пирсона, правило обнаружения отличается от байесовского лишь величиной порогового уровня, с которым производится сравнение отношения правдоподобия.

В качестве примера построения обнаружителя (3.15) рассмотрим задачу проверки гипотезы :

при альтернативе

Такая задача возникает в тех случаях, когда появление полезного сигнала вызывает изменение среднего значения нормального шума на величину . При независимых отсчётах входного процесса отношение правдоподобия может быть записано в виде

После логарифмирования получаем следующий алгоритм обнаружения сигнала:

(3.16)

причем пороговый уровень выбирается из условия

Ситуация, в которой практически невозможно определить априорную вероятность передачи отдельных элементарных сообщений, а последствия ошибок разного рода неодинаковы, типична для радиолокации, когда приёмник, анализируя принимаемое колебание z (t ) (отражённый сигнал плюс помеха), должен определить, имеется в данном направлении и на данном расстоянии объект наблюдения (цель) или нет. Как правило, априорная вероятность наличия отражённого от цели сигнала (передачи 1) заранее не известна. Последствия двух родов ошибок - ложной тревоги (приемник фиксирует, что цель существует, в то время как в действительности её нет) и пропуска цели (приёмник отмечает отсутствие цели, в то время как фактически она имеется) - неравноценны.

В этой и других сходных ситуациях чаще всего пользуются критерием приёма, известным под названием критерия Неймана-Пирсона. Суть его заключается в том, что решающая схема считается оптимальной, если при заданной вероятности ложной тревоги р ЛТ обеспечивается минимальная вероятность пропуска цели р прц . Введём в рассмотрение функции правдоподобия гипотезы об отсутствии цели w (z|0)и о наличии цели w (z|1)

Очевидно, что можно различными способами разбить пространство принимаемых колебаний z(t ) на две области: B 0 (область решения об отсутствии цели) и B 1 , (о наличии цели) -так, чтобы вероятность ложной тревоги

равнялась заданной величине. Поскольку в локации символ 0 (отсутствие цели) передаётся паузой, то w (z |о) - это плотность распределения помехи. Следовательно, вероятность ложной тревоги определяется вероятностными характеристиками помехи и выбором области B 1 . Но от выбора этой области зависит и вероятность правильного обнаружения цели:

где p прц - вероятность пропуска цели.

Интегралы в (16), (17) и в аналогичных других формулах, взятые по векторной переменной, очевидно, многократные.

Максимизация (17) при заданной величине (16) достигается, если решение о наличии цели принимается при выполнении неравенства

где l - пороговый уровень, определяемый заданной вероятностью ложной тревоги р ЛТ.

Существуют и другие критерии качества приёма, не требующие знания априорных вероятностей символов.

В технике связи преимущественно применяют правило максимального правдоподобия (12), (13). В том случае, когда все символы передаются равновероятно, правило максимального правдоподобия реализует критерий идеального наблюдателя. Однако очень часто это правило решения применяют и при неизвестных или известных, но не одинаковых априорных вероятностях символов. Конечно, оно не обеспечивает в этих случаях максимума вероятности правильного приёма. Изменив решающую схему на схему, построенную по правилу максимальной апостериорной вероятности (6), реализующему критерий идеального наблюдателя, можно было бы уменьшить вероятность ошибок. При этом, очевидно, пришлось бы сократить области приёма маловероятных и расширить области высоко вероятных символов. В результате редко передаваемые символы принимались бы менее надёжно, нежели часто передаваемые. Но редкие символы несут больше информации, чем частые. Поэтому переход от правила максимального правдоподобия к правилу максимальной апостериорной вероятности, хотя и уменьшает безусловную вероятность ошибки, может привести к увеличению потери информации при демодуляции. Легко показать, что правило максимального правдоподобия, реализует критерий минимума среднего риска (15), если положить L ij = 0 при i=j и L ij = 1/p (b i ) при j¹i.

Заключение

Выбор критерия качества приема определяет порядок разбиения пространства принимаемых сигналов, т.е. выбор оптимальной решающей схемы приёмного устройства.

В технике связи преимущественно применяют правило максимального правдоподобия, решающую схему которого называют оптимальной.

Разработал

Доктор военных наук, профессор

Обычно в приёмных устройствах демодулятору предшествуют усилители и преобразователи частоты. Здесь все они считаются включёнными в состав канала. В ряде случаев именно они являются основными источниками аддитивных помех канала.

Начало этого отрезка для удобства совместим с началом координат. В принципе интервал анализа на приёме не всегда совпадает с тактовым интервалом Т (см. ниже). Сигналы на тактовом интервале часто будем называть элементом сигнала.

В математической теории связи это разбиение и называют решающей схемой. Заметим, что в некоторых случаях пользуются решающей схемой со стиранием, или отказом от решения. Это значит, что m областей не охватывают всего пространства сигналов и если приходящий сигнал не попадает ни в одну из этих областей, то принимается решение о стирании либо о невозможности определить передаваемый символ.

Вместо неравенств (12) можно было бы просто записать w (z|b i )> w (z|b j ) Сравнение отношений правдоподобия вместо сравнения условных плотностей вероятностей вызвано тем, что понятие отношения правдоподобия можно распространить и на сигналы из бесконечномерного гильбертова пространства, для которых понятие плотностей вероятности w (z|b i ,), w (z|b j ) теряет смысл.

Критерий Неймана - Пирсона

Одним из недостатков критерия Жака - Бера является го, что он ориентирован на решение вопроса о нормальности

распределения на основе только внешних статистических характеристик выборки моментного типа. На практике значительный интерес представляет изучение внутренней структуры выборки. Для этой цели используется аппарат частотных характеристик, включающий в себя определение и анализ значений абсолютных, относительных и накопленных эмпирических частот.

Исследование внутренней структуры выборки начинается с выделения классов однородности, количество которых может быть определено с помощью формулы Стёр- джеса (8.4). Количество элементов выборки, попадающих в каждый из К классов, определяет значения абсолютных эмпирических частот В., i = 1,К.

Каждому классу соответствует интервал выборочных значений, ширина которого (одинаковая для всех интервалов) определяется следующим образом:

где Д = (x max - x min ) - размах варьирования фактора X.

Границы интервалов }