GAN - Mode Collapse

GAN 을 학습시키다보면

생성자(Generator)가 다양한 이미지를 만들어내지 못하고,

비슷한 이미지만 계속 생성하는 경우가 있는데,

이를 Mode Collapse라 칭한다.

 

Mode는 최빈값, 가장 빈도가 높은 값을 말하며,

 

Mode Collapse 를

MNIST 숫자데이터(0~9)에서 예로 들어 설명하자면,

 

mode는 총 0~9, 10개이고

랜덤노이즈(z)를 입력으로 받는 생성자(G)가 판별자(D)를

속이기 위해 노이즈를 변환하는데,

 

변환된 데이터의 분포(라벨)이 특정 숫자(mode)에 치우칠때,

Mode Collapse가 발생했다고 말합니다. 

 

즉, Generator가 Discriminator를 속이기 위해

한 숫자에 가까운 벡터만 생성한다는 말입니다.

 

 

 

Generator가 0~9 숫자 중,

랜덤노이즈를 '1' 의 특징에 가까운 벡터로 변환하여

Discriminator를 지속적으로 속일 수 있다면

Generator 도 목적을 달성한 것이고,

Discriminator 입장에서도 잘못된 판단이라 할 수 없습니다.

 

Discriminator가 완벽하지 못하거나, 모델이 진동할때

이러한 현상이 나타난다고 합니다.

 

추가적인 지식은 

아래 사이트에 자세히 나와 있습니다..!

 

모두 행복한 하루되세요

 

dl-ai.blogspot.com/2017/08/gan-problems.html

[GAN] GAN이 풀어야 할 과제들