반응형
mode collapse는 G가 계속 똑같은 모양의 data를 출력해내는 문제를 말한다.
이 문제는 G가 제대로 학습한게 아니라 D를 속이는데에만 최적화되게 학습된 형태를 말한다.
그렇다면 어떻게 제대로 학습되지도 않았는데 Discriminator를 속일 수 있었을까?
정답은 애초에 D가 global optima로 수렴하지 않았기 때문이다. 어떠한 이유로 D가 local minima에 빠졌거나 학습이 제대로 이루어 지지 않았기 때문에 G의 속임수를 잘 판별하지 못하게 되고 그로 인해 G도 더이상 의미있는 gradient를 뽑아 낼 수 없었기 때문에 학습이 멈춰버린 것이다.
반응형
'연구 > deep learning' 카테고리의 다른 글
[딥러닝] DGCNN, EdgeConv 에서 point 들을 graph 화 하는법 (0) | 2021.09.29 |
---|---|
[개념정리] 논문읽다보면 나오는 개념 permutation invariant (0) | 2021.09.26 |
[occluded data] dataset에 occlusion 취하는법 (0) | 2020.11.04 |
[딥러닝 개념] input image를 normalize해서 넣는 이유 (0) | 2020.11.04 |
[딥러닝 개념] softargmax란? (0) | 2020.11.04 |