Реферат: Основные определения курса Распознавание Образов

P (a |b ) – условная вероятность . Вероятность наступления события a, при условии что событие b наступило

P(Ck,x) = P(x, Ck). Вероятность того что объект имеет признаки, заданные вектором х и при этом принадлежит классу Сk

P(Ck|x) - вероятность того, что объект относится к классу Сk, при условии, что его признаки описываются вектором х. Также называется «апостериорная вероятность класса Ck», т.е. иными словами, вероятность после измерения величины х.

P(x|Сk) - вероятность того, что объект имеет признаки, описываемые вектором х, при условии что объект относится к классу Ck

P(Ck) – вероятность того, что данный объект относится к классу Ck. Также называется «априорная вероятность класса Ck »

P(x) – вероятность того, что признаки произвольного объекта из множества объектов задачи распознавания будут иметь вектор признаков х

p(x) – функция плотности распределения случайной величины х.

формула Баеса для дискретных распределений

P(Ck|x) = P(x|Ck)*P(Ck)/P(x)

P(C1|x) + P(C2|x) + … P(CM|x) = 1 (где М- число классов в задаче распознавания. Это очевидно, так как объект всегда принадлежит одному из классов в задаче распознавания)

Подставляя в эту формулу формулу Баеса получаем:

P(x|C1)*P(C1)/P(x) + P(x|C2)*P(C2)/P(x) + … + P(x|CM)*P(CM)/P(x) = 1

домножаем на P(x), эта вероятность очевидно не нулевая

получаем

P(x|C1)*P(C1) + P(x|C2)*P(C2) + … + P(x|CM)*P(CM) = P(x)

поэтому формулу Баеса можно записать и без P(x):

P(Ck|x) = P(x|Ck)*P(Ck) /

[P(x|C1)*P(C1) + P(x|C2)*P(C2) + … + P(x|CM)*P(CM)]

Формула Баеса для непрерывных распределений :

P(Ck|x) = p(x|Ck)*P(Ck) /

[p(x|C1)*P(C1) + p(x|C2)*P(C2) + … + p(x|CM)*P(CM)]

Вывод для одномерного случая:

Последнее равенство возможно, так как получается, что выражение не зависит от dx.

Матрица потерь:

Uij - диагональные элементы означают бонус, который мы получаем за правильное распознавание, остальные элементы означают потери, которые мы понесем, если объект j распознаем как i.

Пример матрицы потерь: