Коммуникации и связь / Дипломная работа: Классификация римских цифр на основе нейронных сетей

Дипломная работа: Классификация римских цифр на основе нейронных сетей

По умолчанию для предсказания рекомендуется использовать сеть Ворда, содержащую два скрытых блока с разными передаточными функциями.

Стандартные сети.

Попробуем провести обучение с помощью модели 4-хслойной сети , в которой каждый слой соединён только с предыдущим слоем.

Структура НС:

1. количество слоев: 4

2. количество нейронов:

а) во входном слое: 63

б) в выходном слое: 9

3. вид функций активации:

а) входной слой – линейная [0;1]

б) выходной слой – логистическая

В таблице отражена зависимость минимальной средней ошибки на тренировочном и тестовом наборах от количества нейронов в скрытом слое.

Скорость обучения = 0,1; момент = 0,1; скрытые слои – слой 1 – 24 нейрона, слой 2 – 24 нейрона.

Таблица данных

Время обучения Функции активации Min средняя ошибка
1слой 2слой на тренировочном наборе на тестовом наборе
03:18 логистическая логистическая 0,0000036 0,0002548
08:03 Гауссова Гауссова 0,0000006 0,0003652
00:05 линейная линейная 0,5047548 0,7126971
01:01 компГауссова компГауссова 0,0000059 0,0004709

Исходя из таблицы, оптимальной структурой для данной сети являестся сесть с Гауссовыми активационными функциями.

Вых1 Вых2 Вых3 Вых4 Вых5 Вых6 Вых7 Вых8 Вых9
R квадрат 1,0000 1,0000 1,0000 1,0000 1,0000 1,0000 0,9995 1,0000 0,9999
СКО 0,002 0,002 0,001 0,001 0,001 0,002 0,007 0,001 0,004
Относ СКО % 0,155 0,195 0,073 0,057 0,082 0,166 0,722 0,084 0,351

НС после обучения показывает не очень хорошие обобщающие данные. Неплохие обобщающие данные сеть в середине интервала.

Скорость обучения и начальный момент на качество обобщения не влияют.

Сеть Ворда с двумя блоками в скрытом слое .

Структура НС:

1. количество слоев: 4

2. количество нейронов:

а) во входном слое: 63

б) в выходном слое: 9

В таблице отражена зависимость минимальной средней ошибки на тренировочном и тестовом наборах и времени обучения от вида функций активации.

Скорость обучения = 0,1; момент = 0,1

Таблица данных

1 скрытый слой 2 скрытый слой Min средняя ошибка Время обучения
Функция активации Кол-во нейронов Функция активации Кол-во нейронов на тренировочном наборе на тестовом наборе
Комп.Гауссова 24 Комп. Гауссова 24 0,0000016 0,0005358 04:42
Гауссова 24 Гауссова 24 0,0000017 0,0019529 03:58
логистическая 24 логистическая 24 0,0000058 0,0003688 02:18
логистическая 24 Комп.Гауссова 24 0,0000043 0,0006007 01:35

Исходя из таблицы дла данной сети оптимальными будут гауссовы функции активации.

Вых1 Вых2 Вых3 Вых4 Вых5 Вых6 Вых7 Вых8 Вых9
R квадрат 1.0000 0.9992 0.9999 1.0000 0.9999 1.0000 0.9995 1.0000 1.0000
СКО 0.002 0.009 0.003 0.001 0.003 0.001 0.021 0.001 0.002
Относ СКО % 0.152 0.910 0.275 0.107 0.320 0.133 2.112 0.128 0.153

Данная сеть после обучения показывает хорошие обобщающие данные.

Скорость обучения и начальный момент на качество обобщения не влияют.

К-во Просмотров: 311
Бесплатно скачать Дипломная работа: Классификация римских цифр на основе нейронных сетей