Как Lstm изчислява броя на параметрите?

2024 Автор: Lynn Donovan | [email protected]. Последно модифициран: 2023-12-15 23:43

Така че, според вашите ценности. Внасянето му във формулата дава:->(n=256, m=4096), общо броят на параметрите е 4*((256*256) + (256*4096) + (256)) = 4*(1114368) = 4457472. номер на тежести е 28 = 16 (брой_единици * брой_единици) за повтарящите се връзки + 12 (вход_дим * брой_единици) за вход.

Също така попитах, как намирате броя на параметрите?

Да се изчисли научаемото параметри тук всичко, което трябва да направим, е просто да умножим по формата на ширина m, височина n и да отчетем всички такива филтри k. Не забравяйте термина за отклонение за всеки филтър. Брой параметри в CONV слой ще бъде: ((m * n)+1)*k), добавено 1 поради члена на отклонение за всеки филтър.

По същия начин колко скрити единици има Lstm? Ан LSTM мрежа. Мрежата има пет входа единици , а скрит слой съставен от две LSTM блокове памет и три изхода единици . Всеки блок памет има четири входа, но само един изход.

Впоследствие може да се попита и как намирате броя на параметрите в RNN?

1 отговор. Обектите W, U и V се споделят от всички стъпки на RNN и тези са единствените параметри в модела, описан на фигурата. Следователно брой параметри да се научи по време на обучение = dim(W)+dim(V)+dim(U). Въз основа на данните във въпроса това = n2+kn+nm.

Колко слоя има Lstm?

Като цяло, 2 слоеве се оказаха достатъчни за откриване на по-сложни характеристики. | Повече ▼ слоеве може да бъде по-добро, но и по-трудно за обучение. Като общо правило - 1 скрит слой работите с прости проблеми, като този, и два са достатъчни, за да намерите разумно сложни функции.