RNN 순환신경망 LSTM

순환신경망 RNN

시계열 데이터를 활용하여 순차 데이터를 처리하는 학습 모델

매우 긴 순차 데이터 처리에는 장기 의존성을 다루는 LSTM을 사용한다.

 

최근에는 순환신경망도 생성 모델로 사용한다.

영상에 주석을 생성하는 CNN + LSTM

 

 

단어 임베딩 Word Embedding

단어 사이의 상호작용을 분석하여 새로운 공간으로 변환

변환 과정은 학습이 말뭉치를 훈련집합으로 사용하여 알아낸다.

이 과정에서 저차원으로 변환된다.