adam (1) 썸네일형 리스트형 [자연어 처리 학습] 셰익스피어 비극 대본집_중세말투 학습_2 2023년의 음력 설날이 돌아왔습니다. 찾아와주신 모든 분들에게 행운과 행복이 함께하시길 바랍니다. 파이토치 첫걸음 2020.판본을 리뷰하고 있습니다. 셰익스피어 비극 대본집을 통해, 중세 영어식 어법(말투)를 랜덤하게 생성하는 연습을 진행하고 있습니다. 지난 시간까지는 Pytorch를 활용, 딥러닝 RNN의 향상된 버전으로 LSTM을 사용했었죠. 간단한 규모의 신경망 모델을 생성해보았습니다. (epoch 50회, 최적화 함수 Adam, dropout 0.1 사용) 평균 loss는 epoch 1회에서 50회까지 진행하면서 50회 진행시 4.622로 사실상 번역이 안된 수준이었습니다. 이번 시간에는 epoch 수를 2배 늘리거나 AdamW, Adamax를 사용한 결과를 제시하려 합니다. epoch 100회.. 이전 1 다음
