Deep Learning through deep learning

논문 및 코드 링크 (sota) https://paperswithcode.com/paper/c-rnn-gan-continuous-recurrent-neural Papers with Code - C-RNN-GAN: Continuous recurrent neural networks with adversarial training Implemented in 2 code libraries. paperswithcode.com 네 번째 논문은 역시나 GAN 논문이다. 다른 점은 모델에 사용될 데이터가 기존의 수치나 이미지가 아닌 연속적인 음악 데이터라는 것이다. 연속적인 데이터를 다루기 위해 RNN을 GAN에 접목했다는 것은 매우 흥미로운 주제라고 생각했다. 몇 달 전에 CNN과 RNN을 접목하여 텍스트 데이터와 이..

논문 및 코드 링크 (sota) https://paperswithcode.com/method/gan Papers with Code - GAN Explained A GAN, or Generative Adversarial Network, is a generative model that simultaneously trains two models: a generative model $G$ that captures the data distribution, and a discriminative model $D$ that estimates the probability that a sample came from the tra paperswithcode.com 세 번째 논문은 연구 주제의 가장 근간이 되었던 GAN 에 ..

해당 논문 링크 https://www.dbpia.co.kr/pdf/pdfView.do?nodeId=NODE11485084 DBpia 논문, 학술저널 검색 플랫폼 서비스 www.dbpia.co.kr 앞선 논문은 GAN 모델에 대한 논문이었다. 같은 GAN 모델을 다루지만 이번에는 DCGAN 모델을 기반으로 한 노이즈 제거 모델에 대한 논문 리뷰를 하려고 한다. 영어 논문에 비해 상대적으로 술술 읽혔지만 핵심을 중점으로 파악하기 위해 노력했다. 최대한 논문에 대한 핵심을 위주로 리뷰를 정리해 나가고자 한다. Topic 논문에서 제시하는 아이디어의 배경을 요약하자면, X-선 촬영에 있어 이미지의 노이즈가 병명 진단의 정확성을 떨어뜨리는 요인이 되며, 이러한 노이즈를 제거하고자 한다. 기존의 노이즈 제거 방법과..

해당 논문링크 https://openaccess.thecvf.com/content_ICCV_2019/papers/Liu_Coherent_Semantic_Attention_for_Image_Inpainting_ICCV_2019_paper.pdf 어느덧 대학 졸업을 앞두고 석사의 길로 발을 들이게 되었다. 어깨 너머로 박사님, 석사님 혹은 같은 인턴들을 여럿 보아오면서 기존의 공부 방식에 대한 고민을 하게 되었다. 딥러닝이라는 분야 속 이미지관련 영상처리 분야를 혼자 독학하기도 하고, 교수님의 지도를 받고, 비슷한 처지의 사람들의 조언을 받으면서 어찌어찌 공부를 해온 것이 지난 1년 6개월 부터이다. 그러던 와중에 이제는 프로그래밍의 구현 및 창조밖에 답이 없을까 싶은 시기에 비슷한 목표를 가진 석사형의 조..

GAN에 대해 실습을 통해 어느정도 시각적으로 이해가 되었으리라 생각한다. 제목을 보고 갑작스럽게 넘어가는것에 대해 당황 할 수도 있으리라 생각하지만, DCGAN 이후 등장하는 CGAN > Pix2Pix 모델같은 경우에는 단순 조건 추가이거나, 한 쌍의 이미지가 필요하듯이 제한적인 요소가 많다. 자체적으로 데이터를 만들어 확실한 결과를 뽑기 위해선 이 두 단계의 모델을 건너뛰고자 한다. (물론 이 글을 읽는 분들은 이미 두 모델에 대한 이론적 지식이 충분할 것이라고 생각한다.) CycleGAN에서는 초기 GAN을 소개할 때 언급했던 이미지 복원이라는 목표를 가능하게 한다. 서론이 길었으니 일단 이론부터 살펴보자. Theory DCGAN 이후의 모델에 대한 세 줄 요약 들어가겠다. CGAN - 라벨 정보를..

GAN 에 대한 기본적인 훈련을 마쳤으니 이제는 좀 더 안정적이고 고품질의 이미지를 생성해보자. 사실상 이전의 모델은 돌려봤다는 느낌뿐이지 이게 이미지인지 그저 픽셀인지 긴가민가하다. 이 글의 전체적인 내용은 #2 이전 글의 GAN 모델의 이미지 품질 및 안정성 향상을 위한 Convolution Neural Network (CNN) 모델 구조 변경이다. 이전 코드와 데이터셋을 그대로 사용하면서 몇 가지 수정할 부분만 추가할 예정이다. Coding DCGAN CelebA 얼굴이미지 데이터 (이미지 데이터 형식)를 활용한 DCGAN 더보기 1. 기존의 코드에서 몇 가지 수정을 거치면 된다. class Discriminator(nn.Module): def __init__(self): super().__init..

본격적으로 GAN에 대해 알아가보자. 해당 글은 이미 널리다시피 널린 GAN에 대한 이론정보를 이미 어느정도 파악한 후 본격적으로 구현하고자 하는 의지를 가진 사람들을 위해 작성되었다. GAN 의 이론을 빠르게 훑자. 해당 글의 목적은 활용에 있지 구현에 있지 않다는 것을 명시하고 간다. Theory GAN은 당연하게도 기존의 인공신경망(ANN)의 구조에서 시작된다. Multi Layer Perceptron 을 예시로 들자면, MLP에서는 이미지를 입력으로 넣어 클래스에 대한 정보를 출력해냈다면, GAN에서는 출력된 정보를 입력으로 넣어 이미지를 뽑아내는 백쿼리 이론을 따른다. GAN 에서는 적대적 훈련이라고 부르는 Discriminator, Generator 두 신경망이 존재하는데, 쉽게 말해 G에서는..

GAN 모델은 연구실 과제로 시작되어 논문까지 함께한 모델이다. 수많은 blog, kaggle, github, paper with code 등을 찾아보며 반년을 고심한 끝에 GAN 모델에 대해 어느정도 체계가 잡혔다. 지금까지 연구해온 GAN 모델에 대한 데이터셋을 만드는 과정에서부터 내가 원하는 결과를 뽑아내는 것까지 자세하게 다뤄보고자 한다. 모델의 단계는 다음과 같다. 1. GAN GAN, WGAN, WGAN-GP, LSGAN 순의 모델들이 있다. 이미지 생성 모델의 근간이 되는 모델로서, 이미지 생성까지의 과정만을 다룬다. 2. CGAN CGAN, DCGAN, Pix2Pix, CycleGAN 순의 모델들이 있다. 조건을 추가한 이미지 생성 모델로서, 이미지 생성에 그치지 않고 원하는 스타일의 이미..