sailorCat

인공지능 AI/RNN 3

카테고리 설명
  • RNN 대신 LSTM을 사용하는 이유에는 장기 문맥 의존성과 경사소멸 문제를 해결하기 위함이다. 장단기 메모리 LSTM Long Short Term Memory 필요한 정보인 길동은을 받고, 그 전까지의 문장을 저장하고, 쉬기로 작정하였다까지 도달하면 학습한다. LSTM의 요소 - 메모리 블록 (셀) : 은닉 상태 Hidden State 장기기억 - 망각 개폐구 (1: 유지, 0: 제거) : 기억 유지 또는 제거 - 입력 개폐구 - 출력 개폐구 LSTM과 RNN의 비교 망각게이트에서 현재 셀의 유지를 판단하고 0이나 1을 곱해서 값을 저장한다. sigmoid를 적용한다. 중요한 정보만 저장한다. 입력게이트는 현재 입력과 과거의 저장된 것들을 연산하고 tanh 함수를 적용시킨다. 셀의 연결성이 좋아지기 때..

  • 순환신경망 RNN 시계열 데이터를 활용하여 순차 데이터를 처리하는 학습 모델 매우 긴 순차 데이터 처리에는 장기 의존성을 다루는 LSTM을 사용한다. 최근에는 순환신경망도 생성 모델로 사용한다. 영상에 주석을 생성하는 CNN + LSTM 단어 임베딩 Word Embedding 단어 사이의 상호작용을 분석하여 새로운 공간으로 변환 변환 과정은 학습이 말뭉치를 훈련집합으로 사용하여 알아낸다. 이 과정에서 저차원으로 변환된다.

  • 시계열 분석 '과거가 미래에 어떤 영향을 주는가?' 인과관계를 다루는 질문이다. 의학, 기상학, 경제학, 천문학 등의 시간데이터를 가공하여 미래를 예측할 수 있을까? 의학 의학에서 시계열 분석은 실용적인 심전도가 처음으로 발명된 1901년부터 시작되었다. 심장에 흘려보낸 전기신호를 기록해 심장의 상태를 진단하는 기술이다. 현재는 의료계통의 웨어러블 센서와 스마트 전자 의학기기에 의학 시계열 데이터를 사용한다. DNA에 맞춰진 의약품과 헬스케어 데이터 부분은 진전을 이룰 가능성이 높다. 일기예보 기상기록을 위한 기반시설은 1850년대에 만들어졌다. 일기예보라는 단어를 최초로 만들고 그후로 전세계에 일기예보가 도입되었다. 19세기 후반에 여러지역의 대기상태를 시계열로 빠르게 모으는 수단으로 전신을 사용하게 ..