Заключение

Предложен новый вариант кривой обучения. зависимость яыјяj__среднего значения

модуля веса синапса в сети от размера нейросети. Экспериментально показано, что с

его помощью возможно достаточно надежное определение оптимального размера сети,

обеспечивающего минимум ошибки обобщения. Индикатор позволяет обходиться без

расчета ошибки обобщения на независимой тестовой выборке, допускает вариации

путем выбора нормы (модуль веса, среднее квадратичное значение,.) и учета

структурной неоднородности сети для максимизации прогностических способностей.

Также данный критерий может быть применен и при обучении растущих

нейросетей, наподобие нейросетей каскадной корреляции, причем как на этапе отбора

обученного нейрона-кандидата для вставки в нейросеть (наряду с использованием

значения целевой функции для этого нейрона), так и после вставки отобранного

нейрона в сеть и коррекции последней (не единственный отобранный нейрон-кандидат

вставляется в нейросеть, а несколько лучших возможных нейронов вставляются

каждый в свою копию нейросети, и уже эти доученные копии сравниваются между

собой как по значению целевой функции, так и по предлагаемому индикатору).

Подобные эксперименты автор планирует провести в дальнейшем.

Работа поддержана грантом 15G277 Красноярского краевого фонда науки.


Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:  



double arrow
Сейчас читают про: