ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ 

ВОЛГОГРАДСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ 

УНИВЕРСИТЕТ 

 
КАФЕДРА САПР и ПК 
 
 
 
 
 

Применение Байесовых сетей. 
 
 

ПО  КУРСУ «МОДЕЛИРОВАНИЕ» 
 
 
 
 
 
 
 
 
 

Выполнил  слушатель                                                   

группы  ИВТ-363

Ефанов  П.А.

                                                                                                                 

Проверил

Кузнецов  В.В.                              

 
 
 
 
 
 

 
  Волгоград 2006

Содержание.

Введение

 

Байесовы  сети представляют собой графовые модели вероятностных и причинно-следственных отношений между переменными в статистическом информационном моделировании. В байесовых сетях могут органически сочетаться эмпирические частоты появления различных значений переменных, субъективные оценки «ожиданий» и теоретические представления о математических вероятностях тех или иных следствий из априорной информации. Это является важным практическим преимуществом и отличает байесовы сети от других методик информационного моделирования.  

Наблюдаемые события редко могут быть описаны  как прямые следствия строго детерминированных причин. На практике широко применяется вероятностное описание явлений. Обоснований тому несколько: и наличие неустранимых погрешностей в процессе экспериментирования и наблюдений, и невозможность полного описания структурных сложностей изучаемой системы, и неопределенности вследствие конечности объема наблюдений.

На  пути вероятностного моделирования  встречаются определенные сложности, которые (если отвлечься от чисто теоретических проблем) можно условно разделить на две группы:

• технические (вычислительная сложность, «комбинаторные взрывы» и т.п.);
• идейные (наличие неопределенности, сложности при постановке задачи в терминах вероятностей, недостаточность статистического материала).

 

Для иллюстрации одной из «идейных»  сложностей рассмотрим простой пример из области вероятностного прогнозирования. Требуется оценить вероятность положительного исхода в каждой из трех ситуаций:

• Знатная леди утверждает, что она может отличить на вкус, был ли чай налит в сливки или наоборот — сливки в чай. Ей удалось это проделать 10 раз в течение бала.
• Азартный игрок утверждает, что он может предсказать, орлом или решкой выпадет монета (которую вы ему дадите). Он смог выиграть такое пари уже 10 раз за этот вечер, ни разу не проиграв!
• Эксперт в классической музыке заявляет, что он в состоянии различить творения Гайдна и Моцарта лишь по одной странице партитуры. Он уверенно проделал это 10 раз в музыкальной библиотеке.

 

Удивительная  особенность — во всех трех случаях  мы формально имеем одинаковые экспериментальные свидетельства в пользу высказанных утверждений — в каждом случае они достоверно подтверждены 10 раз. Однако мы с восхищением и удивлением отнесемся к способностям леди, весьма скептически воспримем заявления бравого игрока, и совершенно естественно согласимся с доводами музыкального эксперта. Наши субъективные оценки вероятности этих трех ситуаций весьма отличаются. И, несмотря на то, что мы имеем дело с повторяющимися событиями, весьма непросто совместить их с классическими положениями теории вероятностей.

Особенно  затруднительно получить формулировку, понятную вычислительной машине.

Другая  сторона идейных трудностей возникает  при практической необходимости вероятностного прогнозирования событий, к которым не вполне применимы классические представления о статистической повторяемости. Представим себе серию экспериментов с бросанием кубика, сделанного из сахара, на влажную поверхность стола. Вероятности исходов последующих испытаний зависят от относительной частоты исходов предыдущих испытаний, при этом исследуемая система каждый раз необратимо изменяется в результате каждого эксперимента. Этим свойством обладают многие биологические и социальные системы, что делает их вероятностное моделирование классическими методами крайне проблематичным.

Часть из указанных проблем решается в  вероятностных байесовых сетях, которые представляют собой графовые модели причинно-следственных отношений между случайными переменными. В байесовых сетях могут органически сочетаться эмпирические частоты появления различных значений переменных, субъективные оценки «ожиданий» и теоретические представления о математических вероятностях тех или иных следствий из априорной информации. Это является важным практическим преимуществом и отличает байесовы сети от других методик информационного моделирования.

Байесовы  сети широко применяются в таких  областях, как медицина, стратегическое планирование, финансы и экономика. 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Основные  понятия и определения

Законы  теории вероятностей.

 

Понятие вероятности ассоциируется с  проведением эксперимента, результаты которого, именуемые исходами, изменяются случайным образом. Множество всех возможных исходов эксперимента называется пространством элементарных событий, а любое подмножество этого пространства – событием.

Эксперимент может быть связан также с непрерывным  пространством событий.

Если  в эксперименте, состоящем из n опытов, событие Е имело место m раз, то вероятность P{E} появления события Е математически определяется соотношением

Приведенное определение означает, что если эксперимент  повторяется бесконечное число  раз, то, искомая вероятность представляется граничным значение дроби m/n.

По  определению  , где вероятность P{E} равна 0, если событие E невозможно, и 1, если оно достоверно. 

Законы  сложения вероятностей.

 

Для двух событий E и F запись E+F означает их объединение, а EF – пересечение. События E и F называются несовместными (взаимно исключающими), если они не пересекаются, т.е. наступление одного события исключает возможность реализации другого. При принятых определениях закон сложения вероятностей определяется соотношением

Первая  строка системы в случае несовместности E и F, вторая - иначе.

Вероятность того, что события E и F произойдут одновременно, обозначается как P{EF}. Если эти события независимы, тогда

 

Условные  вероятности.

 

Для двух события E и F условная вероятность события E при условии, что наступило событие F, обозначается как P{E|F} и определяется по формуле

Если  событие E содержится в событии F (т.е. множество исходов E является подмножеством исходов F), тогда

Два события E и F являются независимыми тогда и только тогда, когда выполняется равенство P{E|F}=P{E}. В этом случае формула условной вероятности сводится к следующему

Теорема умножения, если соответствующие условные вероятности определены

Теорема умножения для большого числа  событий, если соответствующие условные вероятности определены

Формула полной вероятности для группы несовместных событий Bi

Формула Байеса.

 

Пусть A_i – полная группа несовместных событий, тогда формула Байеса (формула перерасчета гипотез) и B некоторое событие положительной вероятности

Доказательство  следует из теоремы умножения  и формулы полной вероятности. 

Введение  в байесовские  сети доверия.

 

Байесовские сети доверия – Bayesian Belief  Network –  используются в тех областях, которые характеризуются наследованной неопределённостью. Эта неопределённость может возникать вследствие:

1. неполного понимания предметной области;
2. неполных знаний;
3. когда задача характеризуется случайностью.

 

Таким образом, байесовские сети доверия (БСД) применяют для моделирования ситуаций, содержащих неопределённость в некотором смысле. Для байесовских сетей доверия иногда используется ещё одно название причинно-следственная сеть, в которых случайные события соединены причинно-следственными связями.

Соединения методом причин и следствий позволяют более просто оценивать вероятности событий. В реальном мире оценивание наиболее часто делается в направлении от “наблюдателя” к  “наблюдению”, или от “эффекта” к “следствию”, которое в общем случае более сложно оценить, чем направление  “следствие –>     эффект”, то есть в направлении от следствии.

Рис.1. Пример простейшей байесовской сети доверия. 
 

Рассмотрим  пример сети (рис.1), в которой вероятность  пребывания вершины «e» в различных  состояниях (ek) зависит от состояний (ci , dj) вершин «c» и «d» и определяется выражением:

где p(ek|ci, dj) – вероятность пребывания в состоянии ek в зависимости от состояний ci, dj. Так как события, представленные вершинами «c» и «d» независимы, то

p(ek |ci , dj) = p(ci) *p(dj). 

Рис.2. Двухуровневая БСД. 
 

Рассмотрим  пример более сложной сети (рис.2). Данный рисунок иллюстрирует условную независимость событий. Для оценки вершин «c» и «d» используются те же выражения, что и  для вычисления p(e_k), тогда:

  

,

  

.

Из  этих выражений видно, что вершина  «e» условно не зависит от вершин A1, A2, B1, B2, так как нет стрелок  непосредственно соединяющих эти  вершины.

Рассмотрев  эти примеры попробуем теперь более точно определить основные понятия, используемые в БСД. Байесовские сети доверия — это направленный ациклический граф, обладающий следующими свойствами: