Автор работы: Пользователь скрыл имя, 17 Февраля 2011 в 01:15, курсовая работа
Байесовы сети представляют собой графовые модели вероятностных и причинно-следственных отношений между переменными в статистическом информационном моделировании. В байесовых сетях могут органически сочетаться эмпирические частоты появления различных значений переменных, субъективные оценки «ожиданий» и теоретические представления о математических вероятностях тех или иных следствий из априорной информации.
Введение 3
Основные понятия и определения 5
Законы теории вероятностей. 5
Законы сложения вероятностей. 6
Условные вероятности. 6
Формула Байеса. 7
Введение в байесовские сети доверия. 7
Моделирование в условиях неопределенности 8
Экспертные системы и формальная логика 8
Особенности вывода суждений в условиях неопределенности 9
Определение d-разделимости 11
Использование Байесовых сетей. 13
Вероятности прогнозируемых значений отдельных переменных 13
Пример построения простейшей байесовской сети доверия. 13
Расчет в байесовской сети. 15
Байесовские сети доверия как одно из направлений современных экспертных систем. 16
Представление знаний с использованием байесовской сети доверия и условная независимость событий. 16
Замечание о субъективных вероятностях и ожидания. 17
Синтез сети на основе априорной информации. 18
Пример использования Байесовых сетей 19
Медицина 19
Космические и военные применения 19
Компьютеры и системное программное обеспечение 19
Обработка изображений и видео 19
Финансы и экономика 20
Описание прикладных программ 21
AUAI — Ассоциация анализа неопределенности в искусственном интеллекте 21
NETICA 21
Knowledge Industries 22
Data Digest Corporation 22
BayesWare, Ltd 22
HUGIN Expert 22
Выводы 24
Список используемой литературы. 25
Другими словами, в байесовских сетях доверия вершины представляют собой случайные переменные, а дуги – вероятностные зависимости, которые определяются через таблицы условных вероятностей. Таблица условных вероятностей каждой вершины содержит вероятности состояний этой вершины при условии состояний её “родителей”.
Попробуем проследить за способом работы эксперта в некоторой определенной области. Примерами экспертов являются врач, проводящий обследование, финансист, изучающий условия предоставления ссуды, либо пилот, управляющий самолетом.
Действия эксперта могут условно быть представлены в виде повторяющейся последовательности из трех этапов:
Приобретенный новый опыт и информация о мире позволяют эксперту сообразно действовать в будущем. Попытки компьютерного моделирования действий эксперта привели в конце 60-х годов к появлению экспертных систем (ЭС) , которые чаще всего основывались на продукционных правилах типа «ЕСЛИ условие, ТО факт или действие». Будущее подобных систем связывалось при этом с заменой экспертов их моделями. Однако после первых успехов обнажились проблемы, и первой среди них — серьезные затруднения при попытках работы с нечеткой, недоопределенной информацией.
Следующие поколения ЭС претерпели кардинальные изменения:
В
конце 80-х годов были предложены
обобщения ЭС в виде байесовых
сетей, и была показана практическая
возможность вычислений вероятностных
выводов даже для сетей больших размеров.
Вернемся к трехэтапному описанию профессиональных
действий эксперта. Сейчас нас будет интересовать
вопрос, как наблюдения эксперта, т. е.
получение им информации о внешнем мире,
изменяют его ожидания по поводу ненаблюдаемых
событий?
Суть приобретаемого знания в условиях неопределенности состоит в понимании, влияет ли полученная информация на наши ожидания относительно других событий. Основная причина трудностей при использовании систем, основанных на правилах, состоит в учете «сторонних», «косвенных» последствий наблюдаемых событий. Проиллюстрируем это на уже успевшем стать классическим примере.
Шерлок Холмс вышел из дома утром и заметил, что трава вокруг влажная. Он рассудил: «Я думаю, что ночью был дождь. Следовательно, трава возле дома моего соседа, доктора Ватсона, вероятно, также влажная». Таким образом, информация о состоянии травы у дома Холмса повлияла на его ожидания относительно влажности травы у дома Ватсона. Но предположим, что Холмс проверил состояние сборника дождевой воды и обнаружил, что тот - сухой. В результате Холмс вынужден изменить ход своих рассуждений, и состояние травы возле его дома перестает влиять на ожидания по поводу травы у соседа.
Теперь рассмотрим две возможные причины, почему трава у дома Холмса оказалась влажной. Помимо дождя, Холмс мог просто забыть выключить поливальную установку накануне. Допустим, на следующее утро Холмс снова обнаруживает, что трава влажная. Это повышает его субъективные вероятности и для прошедшего дождя, и по поводу забытой дождевальной установки. Затем Холмс обнаруживает, что трава у дома Ватсона также влажная и заключает, что ночью был дождь.
Следующий шаг рассуждений практически невозможно воспроизвести в системах, основанных на правилах, однако он абсолютно естественен для человека: влажность травы у дома Ватсона объясняется дождем, и следовательно нет оснований продолжать ожидать, что была забыта включенной поливальная машина. Следовательно, возросшая, было, субъективная вероятность относительно забытой поливальной машины уменьшается до (практически) исходного значения, имевшего место до выхода Холмса из дома. Такой способ рассуждения можно назвать «попутное объяснение», «контекстное объяснение» или «редукция причины» (explaining away).
Важная особенность «попутного объяснения» состоит в изменении отношений зависимости между событиями по мере поступления информации. До выхода из дома Холмса факты дождя и работы поливальной установки были независимы. После получения информации о траве у дома они стали зависимыми. Далее, когда появилась информации о влажности травы у дома Ватсона, состояние зависимости вновь изменилось.
Эту ситуацию удобно описать при помощи графа, узлы которого представляют события (или переменные), а пара узлов (A, B) связывается направленным ребром, если информация об A может служить причиной для B. В этом случае узел A будет родителем для B, который, в свою очередь, называется узлом-потомком по отношению к A.
История
с травой у Холмса и Ватсона
представлена на рис. 1.
Рисунок
1 Граф рассуждений Шерлока
Холмса
Граф на рис. 1 может быть отнесен к семейству байесовых сетей. В данном примере переменные в узлах могут принимать только булевы значения 1 или 0 (да/нет). Из графа на рис. 1 можно сделать несколько полезных выводов о зависимости и независимости переменных. В традиционной постановке байесовы сети не предназначены для оперирования с непрерывным набором состояний (например, с действительным числом на заданном отрезке). Для представления действительных чисел в некоторых приложениях можно провести разбиение отрезка на сегменты и рассматривать дискретный набор их центров.
Например, если известно, что ночью не было дождя, то информация о состоянии травы у дома Ватсона не оказывает влияния на ожидания по поводу состояния травы у дома Холмса.
В середине 80-х годов были подробно проанализированы способы, которыми влияние информации распространяется между переменными в байесовой сети. Будем считать, что две переменные разделены, если новые сведения о значении одной из них не оказывают влияния на ожидания по поводу другой. Если состояние переменной известно, мы будем называть такую переменную конкретизированной.
В байесовой сети возможны три типа отношений между переменными:
Ситуация на рис. 2c требует, по-видимому, дополнительных пояснений—как возникает зависимость между предками конвергентного узла, когда становится известным значение потомка. Для простоты рассмотрим пример, когда узел A имеет всего двух предков –B и C. Пусть эти две переменные отвечают за выпадение орла и решки при независимом бросании двух разных монет, а переменная A — логический индикатор, который «загорается», когда обе монеты оказались в одинаковом состоянии (например, обе - решки). Теперь легко понять, что если значение индикаторной переменной стало известным, то значения B и C стали зависимыми — знание одного из них полностью определяет оставшееся.
Общее
свойство (условной) независимости
переменных — узлов в байесовой сети
получило название d-разделения (d-separation).
Две переменные A и B в байесовой сети являются d-разделенными, если на каждом пути, соединяющем эти две вершины на графе, найдется промежуточная переменная V, такая что:
Так,
в сети задачи Шерлока Холмса (рис.
1) переменные «Полив?» и «Трава у
дома Ватсона?» являются d-разделенными.
Граф содержит на пути между этими переменными
конвергентное соединение с переменной
«Трава у дома Холмса?».
(a)
(b)
(c)
Рисунок
2 Три типа отношений
между переменными
(a) Последовательное соединение. Влияние информации может распространяться от A к C и обратно, пока значение B не конкретизировано. (b) Дивергентное соединение. Влияние может распространяться между потомками узла A, пока его значение не конкретизировано. (c) Конвергентное соединение. Если об A ничего не известно, кроме того, что может быть выведено из информации о его предках B,C,... ,E, то эти переменные предки являются разделенными. При уточнении A открывается канал взаимного влияния между его предками.
Свойство d-разделимости соответствует особенностям логики эксперта-человека, поэтому крайне желательно, чтобы в рассуждениях машин относительно двух d-разделенных переменных новая информация об одной из них не изменяла степень детерминированности второй переменной. Формально, для переменных A и C, независимых при условии B, имеет место соотношение P(A | B) = P(A | B, C).
Отметим, что интуитивное восприятие условной зависимости и независимости иногда, даже в простых случаях, оказывается затрудненным, так как сложно из всех исходов событий мысленно выделить только те события, в которых значение обусловливающей переменной определено, и далее в рассуждения оперировать только ими.
Вот простой пример, поясняющий эту трудность: в некотором сообществе мужчины среднего возраста и молодые женщины оказались материально более обеспеченными, чем остальные люди. Тогда при условии фиксированного повышенного уровня обеспеченности пол и возраст человека оказываются условно зависимыми друг от друга!
Еще
один классический пример, связанный с
особенностями условных вероятностей.
Рассмотрим некоторый колледж, охотно
принимающий на обучение сообразительных
и спортивных молодых людей (и тех, кто
обладает обоими замечательными качествами!).
Разумно считать, что среди всех молодых
людей студенческого возраста спортивные
и интеллектуальные показатели независимы.
Теперь если вернуться к множеству зачисленных
в колледж, то легко видеть, что высокая
сообразительность эффективно понижает
вероятность спортивности и наоборот,
так как каждого из этих свойств по-отдельности
достаточно для приема в колледж. Таким
образом, спортивность и умственные показатели
оказались зависимыми при условии обучения
в колледже.
На практике нам необходимы распределения интересующих нас переменных, взятые по отдельности. Они могут быть получены из соотношения для полной вероятности при помощи маргинализации — суммирования по реализациям всех переменных, кроме, выбранных.
Приведем пример точных вычислений в простой байесовой сети, моделирующей задачу Шерлока Холмса. Обозначения и смысл переменных в сети : R —был ли дождь, S — включена ли поливальная установка, C — влажная ли трава у дома Холмса, и W — влажная ли трава у дома Ватсона.