[MIT AI Lecture: Deep Learning 10] RNN, LSTM, 그리고 어텐션: 문맥과 시간의 흐름을 이해하고 기억하는 법

00:00 강의 소개 및 딥러닝 아키텍처 개요 01:12 단일 프레임과 시퀀스 데이터의 차이 이해 02:46 1D 컨볼루션을 이용한 시간 데이터 처리와 한계 05:13 순환 신경망(RNN)의 핵심 원리와 은닉 상태 06:38 시간의 역전파(BPTT) 학습 방식과 특징 08:35 RNN의 한계: 기울기 소실 및 폭주 문제 11:05 LSTM의 설계 의도와 기울기 소실 문제 해결 방법 12:41 LSTM의 3단계 메모리 제어 시스템(게이팅) 15:34 자기회귀 모델링의 원리와 Teacher Forcing 학습법 17:41 미래 단어 선택 전략: 탐욕 탐색 vs 빔 서치 20:20 순환 구조의 한계와 어텐션(Attention)의 등장 23:36 컨텍스트 길이와 비디오 행동 인식 효율성 분석 25:10 딥러닝의 두 가지 기억 시스템: 가중치와 활성화 26:34 강의 핵심 내용 요약 및 복습 27:20 인공지능과 인간의 뇌 구조에 대한 철학적 성찰 및 마무리