본문 바로가기

728x90

딥러닝

(19)
[DeepLearning] IRB에 관하여 Inverted Residual Block 이번 시간에는 지난 GPU-Net에서 설명했던 이미지 추론의 진행 과정 중, 분산 검색 프레임워크(Distributed Search Framework)의 진행 단계에서 단순히 residual block의 응용이라고만 설명했던 Inverted residual block(역 잔차 블록)에 대해서 알아보겠습니다. 본 기술이 등장하게 된 시기는 2018년 Mobilenet V2에서 새롭게 개발한 기술을 소개하는 과정에서 등장했으며, 이외에도 Depthwise Seperable Convolution(분할가능 깊이 합성곱) 기법, residual bottleneck기술 등 핵심적인 토대가 되는 신기술들이 다수 등장하는 논문입니다. 이 Depthwise Seperable C..
[DeepLearning] LA-MCTS에 관하여 본 문서는 GPU-Net과 블랙박스 최적화 기법에 대한 설명 중 LA-MCTS에 대한 설명은 찾기 어려워 직접 정리하고자 한 게시글 입니다. 개념에 대해서 길게 설명한 글도 존재하지만, 수학적인 베이스가 상당히 많이 필요한 관계로 sin 그래프를 사용한 예시를 보며 간단하게 설명해보겠습니다. 먼저, 기본적으로 LA-MCTS는 지연 행동을 활용한 몬테 카를로-트리 검색기법 입니다. 몬테 카를로-트리 검색은 이미 국내에 소개된 바 있습니다. 몬테카를로 트리 탐색 - 위키백과, 우리 모두의 백과사전 (wikipedia.org) 몬테카를로 트리 탐색 - 위키백과, 우리 모두의 백과사전 위키백과, 우리 모두의 백과사전. 컴퓨터 과학에서 몬테카를로 트리 탐색(Monte Carlo tree search, MCTS)은..
[DeepLearning] GPU-Net을 활용한 이미지 분류_2_feat.강아지 GPU Net은 특히 단일 객체 - 동물들의 분류에 강한 성능을 보였습니다 이번 시간에는 지난 모델의 미리 훈련된 버전을 통해 새로운 이미지들을 몇가지 더 진행해보겠습니다. 잠시 GPU-Net의 기능에 대해서 요약하자면 검색 영역과 검색 알고리즘을 활용하고, NAS 시스템을 활용해 네트워크에서 추론을 탐지하며, TensorRT와 Inverted Residual block을 사용하는 모델이었습니다. 위 LA-MCTS 기법에 대한 설명 (이전 게시글에 대한 보충입니다) [DeepLearning] LA-MCTS에 관하여 (tistory.com) [DeepLearning] LA-MCTS에 관하여 본 문서는 GPU-Net과 블랙박스 최적화 기법에 대한 설명 중 LA-MCTS에 대한 설명은 찾기 어려워 직접 정리하..
[DeepLearning] GPU-Net을 활용한 이미지 분류_1 국내에는 번역본이 많이 보이질 않아서 pytorch문서와 NVIDIA 발 논문의 직접 해석을 진행했습니다. 꽤 최근 모델이었던 것 같습니다. 이번 시간에는 요즘 정말 핫한 그래픽 카드 전문 기업인 NVIDIA에서 밝혀낸 GPU-Net모델을 official하게는 아니고 잠깐 소개하는 시간을 가져보겠습니다. pytorch 공식 문서에서 본 내용으로 테스트를 진행하던 중 꽤 흥미로운 결과값을 보이는 이미지들이 있어서 그 부분도 같이 가져왔습니다. ✅ 주의 ※ 의 내용을 따르나, 논문 해석상의 오류나 의역이 존재할 수 있습니다. 먼저, GPU net은 쉽게 말하자면 CNN(Convolution Neural Network)에서 이미지 분류와 정확도에 특출난 성능을 보이는 신규 모델로, 현재까지는 특정 영역(추론)..
[DeepLearning] GAN을 활용한 새로운 산타클로스 얼굴 만들기 feat_Dropout 기법 지난 시간에 생성한 산타클로스 이미지의 GAN 생성 모델. 이번에는 성능 향상을 위해서 Dropout을 다시 조정해보았습니다 지난번 IS THAT SANTA? 를 활용한 모델에서는 이미지를 학습하고 생성자 VS 판별자를 갖고 있는 GAN을통해 epoch 100회, 200회, 추가적으로 150회 까지 진행했었습니다. (실제로는 공개하지 않았지만 이 코드는 10회 → 20회 → 50회 → 90회 등 수많은 테스트가 존재했습니다) 추가적으로 Discriminator (판별자)에 여러가지 시도를 진행하던 중, 이런 의식이 생겼습니다. 다른 딥러닝 모델에서 사용한 Dropout을 더해서 실험해보면 어떨까? 물론 이미 최적화를 진행해본 생성자, 판별자 구조에 dropout, early stop등 추가적인 기능을 넣..
[DeepLearning] GAN을 활용한 새로운 산타클로스 얼굴 만들기 산타가 오는 겨울이 지나고, 많은 인파들 사이에 숨어버렸다고 합니다. 숨어있는 산타의 얼굴을 찾아 새로운 산타를 만들어 볼까요? 이번 신경망에서도 GAN(생성 적대적 신경망)을 사용할 예정입니다. 오늘 가져올 kaggle 데이터는 Is that santa? (Image Classification) 데이터셋으로 데이터 자체는 분류모델을 통해 실제 santa와 산타로 위장한(전혀 다르게 생길때도 있음) not a santa를 찾는 데이터셋 입니다. 다만 not a santa는 RNN이나 Resnet을 활용해서 많은 분들이 접근하고 있는 코드이기에 필자는 따로 train에서 산타 이미지만 추출해서 새로운 이미지를 만들어볼 계획입니다. 실제 데이터셋 (kaggle) IS THAT SANTA? (Image Cla..

728x90