Discriminative vs. Generative Model

2022. 1. 4. 23:16·Deep Learning/Learning technique

참고자료

  • https://sens.tistory.com/408
  • https://www.youtube.com/watch?v=6F4zxCN0Wtc 
  • https://perpetual.tistory.com/61

 

 

Discriminative model과 Generative model의 차이

 

Jonathan T. Barron의 Convolutional Color Constancy 논문에서 Discriminative와 Generative방법론을 비교하면서 계속 언급하길래 확실하게 정리를 한번 하고 넘어가고 싶어서 남겨둔다.

공부하다 보니 둘 사이에 꽤 큰 차이가 존재하고, 어떤 모델을 설계할 때 Generative / Discriminative 중에 무엇을 사용할지 결정하는 부분도 꽤 중요한 것 같다.

Discriminative model

  • 데이터가 주어지면 어떤 class인지 바로 구해줌
  • class 결정을 위해 Decision boundary 를 구함
  • 클래스 각각의 데이터에 관심 없고 두개의 클래스를 잘 구별하는 방향으로 학습됨
  • Cost function을 Minimize하여 모델을 최적화함 (모델 자체가 Decision boundary가 됨)

Generative model

  • 라벨이 주어진 샘플 데이터들의 분포를 구하고, 데이터가 주어지면 어떤 분포에 들어갈 확률이 가장 높은지 로 판단함
  • 클래스 별 각각의 분포를 학습, 이후 데이터가 주어질 때 p(x,y=개) > p(x,y=돼지) 이면 개로 분류함
저작자표시 비영리 (새창열림)
'Deep Learning/Learning technique' 카테고리의 다른 글
  • Representation Learning, Feature Learning in Computer Vision
  • Meta Learning의 정의와 그 분류
  • Siamese Network 와 Contrastive Loss, Triplet Loss
DongYoung
DongYoung
Dong's Archive
  • DongYoung
    Dong's Archive
    DongYoung
  • 전체
    오늘
    어제
    • View All (36)
      • Deep Learning (0)
        • Paper Summary (10)
        • Learning technique (4)
        • Architecture design (2)
        • Coding (1)
        • Etc. (2)
      • Computer Vision (1)
      • Math for Deep Learning (16)
        • Linear Algebra (10)
        • Probability & Statistics (4)
        • Etc. (2)
  • 블로그 메뉴

    • About🧐
    • Homepage🏠
    • Github🧑🏻‍💻
    • Instagram📷
  • 링크

    • 홈페이지
  • 공지사항

  • 인기 글

  • 태그

    Discriminator
    왓 포
    생성모델
    벡터
    열공간
    룸서비스
    deep learning
    Generative Adversarial Net
    행렬
    확률통계
    영공간
    빈펄리조트 나트랑
    빈펄랜드
    나트랑 쉐라톤
    조식
    쉐라톤 나트랑
    빈펄 리조트
    선형독립
    나트랑
    베트남
    태국
    독립사건
    빈펄
    subspace
    GAN
    잇 사이트 스토리
    파타야
    카오산 로드
    방콕
    선형대수
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.5
DongYoung
Discriminative vs. Generative Model
상단으로

티스토리툴바