[Review] Beyond a Gaussian Denoiser: Residual Learnung for Deep CNN for Image Denoising (IEEE 2017)

1. Introduction

  Image denoising 의 기본적인 목적은 noisy observation y 로부터 깨끗한 이미지 x 를 얻어내는 것이다. ( y = x +v ) 이때 v 는 AWGN(additive white Gaussian noise with standard deviation) 으로 가정한다. 본 논문에서 제안하는 DnCNN 모델은 image denoising 을 plain discriminative learning problem 으로 간주한다. 이는 noisy image 로부터 noise 를 feed-forward convolutional neural network 로 분리하고자 한다는 것이다. CNN 을 사용하는 이유는 아래와 같다.

 

   1. deep 한 CNN 구조는 이미지의 특성을 충분히 고려할 수 있을만큼 capacity, flexibility 특성이 좋다

   2. CNN 을 학습시키는 데에 사용하는 regularization , learning method 가 상당 수준 발전했기 때문이다.

   3. CNN 은 GPU 에서 병렬 컴퓨팅 환경에 적합하기 때문에 run time performance 가 좋다.

 

  위와 같은 이유로 CNN 을 활용한 모델인 DnCNN 모델을 제안한다. denoised image 를 바로 outputing 하는 것이 아니라 residual image 를 outputing 한다. DnCNN 에서는 hidden layer 에서 latent clean image 를 remove 하는 방향으로 동작한다는 것이다. BN(batch normalization) 은 이를 보다 stable 하고 training performance 를 증가시켜주는 작용을 한다.

 

  본 논문의 contribution 은 아래와 같이 요약할 수 있다.

1. Gaussian denoising 을 위한 end-to-end trainable deep CNN 모델을 제안한다. direct 하게 latent clean image 를 estimate 하는 방법이 아닌 noisy observation 으로부터 latent clean image 를 제거하는 방향으로 진행한다.

2. residual laerning 과 batch noramlization 을 통해 학습 속도 뿐만이 아니라 denoising performance 가 높아지는 것을 발견하였다.

3. DnCNN 모델은 일반적으로 확장하기 쉽다. 

 

 

2. Related Work

  B. Residual Learning (use 'skip connection' !)  and Batch Normalization

  CNN 근본적으로 가지는 문제는 depth 가 증가할 수록 performance 가 감소한다는 것이다. 이는 일반적으로 gradient vanishing problem 에 의해 발생하는데, skip connection 을 활용한 residual learning strategy 로 이를 방지하고 CNN 모델을 보다 깊게 stacking 할 수 있다. 

  Batch Normalization 에 대해서 간단히 알아보자. Mini-batch stochastic gradient descent(SGD) 가 간단하면서도 효과적이기 때문에 CNN model 의 optimizer 로 종종 사용했지만, training 과정에서 input 의 distribution 이 다른 경우가 있다. 이를 covariate shift 라고 하는데, 이러한 현상에 의하여 training 이 어려워지는 결과가 발생한다. Batch normalization 으로 하여금 이를 해결할 수 있다. 각각의 layer 를 normalizing 함으로써 유사한 분포를 가지도록 해서 stable 하면서도 training speed 를 높일 수 있다. 요약하자면 SGD 의 경우 CNN 에 사용되는 흔한 방법이지만 해당 optimizer 는 internal covariate shift 에 의해 training speed 가 급격히 떨어지는 결과를 야기한다. 이를 방지하기 위한 방법으로 Batch normalization 기법이 아주 효과적이라는 것이 중요하다.

 

3. The Proposed Denoising CNN Model

  DnCNN 모델의 architecture 는 VGG network 를 image denoising 에 적합하도록 modify 한 것이다. model 학습을 위해 residual learning 와 batch normalization 을 사용하였다.

 

A. Network Depth

  DnCNN 모델의 input 은 noisy observation 이다. (y = x  + v) 기존의 모델들은 F(y) = x 에 대항하는 mapping function 인 F 를 얻는 데에 초점을 두지만, DnCNN 의 경우에는 residual learning 을 하기 때문에 R(y) ~= v 를 얻어내고 x = y - R(y) 와 같은 방식으로 Clean image 를 얻고자 한다. desired residual image 와 estimated residual image 간의 averaged MSE 를 loss function 으로 사용한다.

 --- 작성중 ---