LSTM bidirecional \u00e9 uma variante da mem\u00f3ria longa e de curto prazo (LSTM), um tipo poderoso de rede neural recorrente (RNN), projetada para processar dados sequenciais, abordando o problema de depend\u00eancias de longo prazo.<\/p>\n
O conceito de LSTM Bidirecional foi introduzido pela primeira vez no artigo \u201cRedes Neurais Recorrentes Bidirecionais\u201d de Schuster e Paliwal em 1997. No entanto, a ideia inicial foi aplicada a uma estrutura RNN simples, n\u00e3o a LSTM.<\/p>\n
A primeira men\u00e7\u00e3o do pr\u00f3prio LSTM, o antecessor do LSTM Bidirecional, foi introduzida em 1997 por Sepp Hochreiter e J\u00fcrgen Schmidhuber no artigo \u201cLong Short-Term Memory\u201d. O LSTM teve como objetivo resolver o problema do \u201cgradiente de desaparecimento\u201d dos RNNs tradicionais, o que tornava dif\u00edcil aprender e manter informa\u00e7\u00f5es em sequ\u00eancias longas.<\/p>\n
A verdadeira combina\u00e7\u00e3o do LSTM com a estrutura bidirecional apareceu mais tarde na comunidade de pesquisa, proporcionando a capacidade de processar sequ\u00eancias em ambas as dire\u00e7\u00f5es, oferecendo assim uma compreens\u00e3o do contexto mais flex\u00edvel.<\/p>\n
LSTM bidirecional \u00e9 uma extens\u00e3o do LSTM, que pode melhorar o desempenho do modelo em problemas de classifica\u00e7\u00e3o de sequ\u00eancias. Em problemas onde todos os intervalos de tempo da sequ\u00eancia de entrada est\u00e3o dispon\u00edveis, os LSTMs bidirecionais treinam dois em vez de um LSTM na sequ\u00eancia de entrada. O primeiro na sequ\u00eancia de entrada como est\u00e1 e o segundo em uma c\u00f3pia invertida da sequ\u00eancia de entrada. As sa\u00eddas desses dois LSTMs s\u00e3o mescladas antes de serem repassadas para a pr\u00f3xima camada da rede.<\/p>\n
O LSTM bidirecional consiste em dois LSTMs separados: o LSTM direto e o LSTM reverso. O LSTM direto l\u00ea a sequ\u00eancia do in\u00edcio ao fim, enquanto o LSTM reverso a l\u00ea do final ao in\u00edcio. As informa\u00e7\u00f5es de ambos os LSTMs s\u00e3o combinadas para fazer a previs\u00e3o final, fornecendo ao modelo um contexto passado e futuro completo.<\/p>\n
A estrutura interna de cada unidade LSTM consiste em tr\u00eas componentes essenciais:<\/p>\n
Em termos gerais, existem dois tipos principais de LSTM bidirecional:<\/p>\n
LSTM bidirecional concatenado:<\/strong> As sa\u00eddas dos LSTMs para frente e para tr\u00e1s s\u00e3o concatenadas, efetivamente duplicando o n\u00famero de unidades LSTM para camadas subsequentes.<\/p>\n<\/li>\n LSTM bidirecional resumido:<\/strong> As sa\u00eddas dos LSTMs para frente e para tr\u00e1s s\u00e3o somadas, mantendo o mesmo n\u00famero de unidades LSTM para camadas subsequentes.<\/p>\n<\/li>\n<\/ol>\n