본문 바로가기

728x90

자연어처리

(2)
[자연어 처리 학습] 셰익스피어 비극 대본집_중세말투 학습_2 2023년의 음력 설날이 돌아왔습니다. 찾아와주신 모든 분들에게 행운과 행복이 함께하시길 바랍니다. 파이토치 첫걸음 2020.판본을 리뷰하고 있습니다. 셰익스피어 비극 대본집을 통해, 중세 영어식 어법(말투)를 랜덤하게 생성하는 연습을 진행하고 있습니다. 지난 시간까지는 Pytorch를 활용, 딥러닝 RNN의 향상된 버전으로 LSTM을 사용했었죠. 간단한 규모의 신경망 모델을 생성해보았습니다. (epoch 50회, 최적화 함수 Adam, dropout 0.1 사용) 평균 loss는 epoch 1회에서 50회까지 진행하면서 50회 진행시 4.622로 사실상 번역이 안된 수준이었습니다. 이번 시간에는 epoch 수를 2배 늘리거나 AdamW, Adamax를 사용한 결과를 제시하려 합니다. epoch 100회..
[자연어 처리 학습] 셰익스피어 비극 대본집_중세말투 학습_1 파이토치 첫걸음 2020.ver을 리뷰하고 있습니다. 이번에는 셰익스피어의 다양한 비극작품 대본을 모아둔 tinyshakespeare 데이터로 중세식 영어 말투를 생성하는 자연어 처리 모델을 만들어보고자 합니다. ※ 참고사항 셰익스피어가 활동한 16~17세기는 영어가 현대적으로 완성되기 한참 전, 중세 영어를 사용하던 시기였습니다. 완전히 고대 영어처럼 아예 알아볼 수 없는 것은 아니지만 라틴어나 게르만어에서 영향을 받은 문체들이 섞여 있습니다. 잠시 중세 말투가 무엇인지, 참고 자료를 보겠습니다. 어떤 상대인지 그대는 모른다 영화 '어벤져스'에서 주인공 일행인 아이언맨(토니 스타크)와 토르(토르 오딘슨)과 처음 대우한 장면 설정상 토르와 로키는 1000년 전부터 지구를 들락날락 하던 타 우주의 왕족으로..

728x90