Как работи самовниманието?

2024 Автор: Lynn Donovan | [email protected]. Последно модифициран: 2023-12-15 23:43

Казано на лаици, себе си - внимание механизъм позволява на входовете да взаимодействат един с друг (“ себе си ”) и разберете на кого трябва да плащат повече внимание да се ( внимание ”). Изходите са съвкупности от тези взаимодействия и внимание резултати.

Също така, какво е вниманието към себе си?

Себе си - внимание , понякога наричан интра- внимание е внимание механизъм, свързващ различни позиции на една последователност, за да се изчисли представяне на последователността.

Също така, какво е вниманието към себе си в дълбокото обучение? Първо, нека дефинираме какво “ себе си - Внимание ” е. Cheng et al, в техния документ, озаглавен „Long Short-Term Memory-Networks for Машина Четене”, дефиниран себе си - Внимание като механизъм за свързване на различни позиции на една последователност или изречение, за да се получи по-ярко представяне.

Що се отнася до това, какво представлява механизъм за внимание?

Механизъм за внимание позволява на декодера да се грижи за различни части на изречението източник на всяка стъпка от генерирането на изхода. Вместо да кодираме входната последователност в един фиксиран вектор на контекста, ние оставяме модела да се научи как да генерира контекстен вектор за всяка изходна времева стъпка.

Какво представлява моделът, базиран на вниманието?

внимание - базирани модели принадлежат към клас от модели обикновено се нарича последователност към последователност модели . Целта на тези модели , както подсказва името, за да произведе изходна последователност, дадена на входна последователност, която като цяло е с различна дължина.