<aside> 💡 ctrl+alt+t를 누르면 한 번에 여닫기를 할 수 있습니다.

개인적으로 정리하고 있던 자료와 합치다 보니, 다소 내용이 많은 점 참고 부탁 드립니다. 그리고 화이트 모드로 보는 것을 권장드립니다.

  1. 생성 모델을 처음 접함에 있어 필요한 확률, 통계적인 개념을 우선적으로 작성하였습니다.
  2. 이후 논문에 대해 자세하게 살펴봅니다.
  3. 추가적으로 평가 지표에 대해서 다룹니다. 해당 논문의 의견(Quantitative뿐만 아니라 Qualitative도 고려해야 한다) → 이미지 생성 모델의 평가 지표에 대해 다룬 논문인데, 의견이 흥미로워서 읽어보시는 것을 추천 드립니다.

</aside>

<aside> 💡

< Contents >

</aside>

1. Probabilistic Perspective

들어가며

Basic Statistics

Maximum Likelihood Estimation(MLE)

Appendix: Maximun A Posterior(MAP)

Kullback-Leibler Divergence(KLD)

Jenson-Shannon Divergence(JSD)

Information & Entropy

Appendix: MSE with Probablitc Perspective — Regression

Wrap-up

2. Paper

1. Introduction

2. Related Work

3. Adverarial nets

4. Theoretical Results

5. Experiments

6. Adantages and disadvantages

7. Conclusion and future work

3. 참고자료

4. GAN Evaluation Metrics

<aside> 💡 해당 논문의 의견(Quantitative뿐만 아니라 Qualitative도 고려해야 한다)

[[후속 논문][2021] Pros and Cons of GAN Evaluation Measures: New Developments](https://dorae222.notion.site/2021-Pros-and-Cons-of-GAN-Evaluation-Measures-New-Developments-6ab74989dd374f64a87f775c1c97ef82)

  1. 기존에는 단순히 얼굴을 기준으로만 평가했으며, 다양한 케이스에 대한 평가 지표를 깊이 있게 다루지 않았다.
  2. Quality and diversity에 대한 관점은 많지만, 차원(Generalization, fairness)부분에 대한 연구가 적다.
    1. Generalization 관점에서는 생성 모델을 더 깊게 이해할 수 있게 된다.
    2. Fairness 관점에서는 올바른 사회적 영향에 대해서 다룰 수 있으며, 모델 배포로 인해 발생하는 잠재적 위험 요소를 완화할 수 있습니다.
  3. Downstream Task마다 중요한 평가 요소가 다르다.
    1. 예를 들어, 이미지의 퀄리티가 중요한 반면 다른 상황에서는 Diversity가 확보되는 것이 중요하다.(두 관계는 Trade-off 관계입니다)
  4. 좋은 평가 지표란 모델의 순위를 매길 수 있는 측면도 있지만, 도메인(e.g. 의료 이미지) 별로 적절한 평가 지표가 유의미한 지이다.
  5. 생성 모델이 학습 데이터를 기억하는 정도는 여전히 명확하지 않습니다.
  6. 궁극적으로, 딥 페이크와 같은 사회적 이슈를 다루기 위한 평가 지표를 고려해야 합니다. </aside>

5. 추가 사항

Untitled