НЕФТЬ-ГАЗ ЭЛЕКТРОННАЯ БИБЛИОТЕКА
На главную >>


Теперь на нашем сайте можно за 5 минут создать свежий реферат или доклад

Скачать книгу целиком можно на сайте: www.nglib.ru.

Предложения в тексте с термином "Рг"

Рг *>'

Иначе говоря, pi(j)/Qj не зависит от / и является функцией i тогда, когда Pt > 0 и рг(/)>0.

Так как Pr \ m/v \ = 2 РГ \ У> rn/v\, вторая сумма может быть запиv сана в виде

При первом суммировании величина Рг \ у /и, т \ является постоянной, равной Рг \ у/х , а коэффициенты при логарифме дают в сумме Pr\x, y/v\.

Рассмотрим теперь скорость передачи в канале (в обычном смысле при отсутствии обратной связи) так, как будто бы значениям х приписаны вероятности q (х) = Рг \ x/v \.

При этом вероятности г (xi У) Для пар х, у и вероятности w (у) просто для у были бы равны г (х, у) = д (х) Рг \у/х\ = Рг\ xl v \ Рг \у/х] = Pr\x, y/v |,

Предположим теперь, что передача начинается с М сообщений, подразделенных на группы, вероятности которых, согласно описанному ранее, приблизительно пропорциональны Рг.

Отсюда можно заключить, что Ft = Рг = Р3 = 1/5, а Р4 = 2/5.

Чтобы доказать это, допустим, что пропускная способность канала с переходными вероятностями rt(j) достигается, когда вероятности букв на входе равны Рг.

Канал К', у которого две входные буквы обладают переходными вероятностями рг и 1 — pi и р2, 1 — р2 соответственно для двух ') Shannon С.

Рг (о | и) = pti (/j) pi2 (/,).

Q (*) = РГ[/ (U, »)<*].

В произвольном фиксированном коде из нашего ансамбля кодов некоторое слово на входе и или пара (и, v), вообще говоря, будут встречаться с вероятностями, отличными от Р (и) и Рг (и, v).

Разобьем сначала сумму на две части: сумму по определенному выше множеству Т пар (и, v), для которых log [Рг (и, v)/P (и) Рг (v)] > n (R + 6), и сумму по дополнительному к Т множеству Т:

Рг (v | и') >Pr(v\u)> Pr (v) en ^ е>, Pr(u', v)>Pr(u')Pr(v')en<-R+V,

Ре < Q (R + 6) + enR е-«<«+<» 2 Рг (и, v) ^ Q (R + 6) + е~пв; т при этом опять учтено то обстоятельство, что сумма вероятностей несовместимых событий не превосходит единицы.

Но наше неравенство равносильно неравенству или (так как Рг (и) =• e~nR) неравенству

Рг(ы|в)<1.

Если же наше покажется принадлежащим классу С2, то Рг (и \ У) < 1/2.

Вероятность ошибки при таком декодировании меньше или равна вероятности всех пар (и, и), для которых Рг (и v) < г/2- Иначе говоря, Ре< 2 Рг (и, v), где s

S — совокупность пар (и, v), для' которых Рг (и v) < 1/2.

Условие Рг (и \ v) < 1/2 эквивалентно условию Рг (и, v)IPr (v) < ljz или условию

Рг(и, о) = Отсюда где через Ik обозначена взаимная информация между &-ми буквами слов и и v.

Для больших положительных значений s эта отклоненная совокупность вероятностей Qs (Г) увеличивает вероятности Рг (/) для положительных / и уменьшает их для / отрицательных.

Пусть рг (/), (i = 1 ,.

Такой канал определяется двумя вероятностями рг и р2 (рис.

нами канал включает, в частности, некоторый двоичный симметричный канал X, изображенный точкой 1/2 [рг + (1 —р2)1, 1/2 [р2 + (1 —р^] квадрата, что для нашего примера дает (3/5, 5/8).

R = H (i, i') -H(i, i' | /, /') >H(i, i') - H (i' | /) - H (i' | /') = (Здесь используется тот факт, что при нашем определении <7г(/) и qi' (/') справедливы равенства Рг* (/ 1 /) = Pr(i \ /') и Pr* (i' | /') = = Рг(г"|/"), которые становятся очевидными, если выписать соответствующие вероятности.

Тогда Рг (у) > 1 — б2, так как каждое из условий может исключать самое большее множество вероятности б2/2.

Вероятность множества а должна удовлетворять условию Рг (а) > 1 — б, так как в противном случае полная вероятность множества, допол-'нительного к у, будет не меньше б- б = б2: первое б было бы вероятностью того, что т не принадлежит а, второе б — условной вероятностью того, что для таких т последовательность букв Z не принадлежит рт, а произведение их дает нижнюю границу вероятности множества, дополнительного к у.

1) Рг(а)>1-6,

Эта проблема математически равносильна проблеме максимизации взаимной информации при вариации Рг с линейным неравенством в качестве ограничения.

Обозначим переменные у, соответствующие членам Pt, через wl7 t>2, ••-, vr, а соответствующие членам Рг — через wi, w2,.

10 для /г(3> (рг).

4(1-Л)/г4(1-р1)рГ

Назовем величину Н — —^рг1°§Рг энтропией множества вероятностей pi.

Я=0 тогда и только тогда, когда все вероятности рг, кроме одной, равны нулю, а эта единственная вероятность равна единице.

С= log m + S рг log ft.

,р„) + К S рг log щ.

Каково распределение вероятностей для различных состояний Рг и вероятностей р$ выбора символа s при переходе из состояния i в состояние /, для которого максимизируется скорость создания информации при данных ограничениях?

Заметим, что любая система Т может быть записана как сумма фиксированных операций где Т} — определенная операция шифрования в системе Т, соответствующая выбору ключа i, причем вероятность такого выбора равна рг.

Н = - S Pi lo§ Рг

УО = ,/~РГ




Главный редактор проекта: Мавлютов Р.Р.
oglib@mail.ru