Deep Learning/Learning technique
Discriminative vs. Generative Model
참고자료 https://sens.tistory.com/408 https://www.youtube.com/watch?v=6F4zxCN0Wtc https://perpetual.tistory.com/61 Jonathan T. Barron의 Convolutional Color Constancy 논문에서 Discriminative와 Generative방법론을 비교하면서 계속 언급하길래 확실하게 정리를 한번 하고 넘어가고 싶어서 남겨둔다. 공부하다 보니 둘 사이에 꽤 큰 차이가 존재하고, 어떤 모델을 설계할 때 Generative / Discriminative 중에 무엇을 사용할지 결정하는 부분도 꽤 중요한 것 같다. Discriminative model 데이터가 주어지면 어떤 class인지 바로 구해줌 class..
Representation Learning, Feature Learning in Computer Vision
Representation Learning TL;DR; (짧은 요약) Representation Learning 은 좋은 Feature를 학습하기 위해 도입되는 여러 테크닉들을 총칭하며, 물론 labeled data를 활용하여 학습시킬수도 있지만, 대용량의 unlabeled data를 이용하여 self-supervised 방식으로 학습된다 ResNet으로 학습된 가중치의 일부를 고정하고 사용하는것과 같은 방식도 결국 학습된 Repersentation을 이용하는것 Feature를 학습하는것이 목표이지만 우리가 feature 자체에 supervision을 줄 수 없으므로, 다양한 Task에 대해 학습시키면서 그 와중에 feature가 잘 학습되길 기대하는 것이며 그런 학습 목적들을 Pretext task라고..
Meta Learning의 정의와 그 분류
https://rhcsky.tistory.com/5 Meta Learning 학습하는 과정을 학습하다. Meta learning은 현재 AI에서 가장 유망하고 트렌디한 연구분야로 AGI(Artificial General Intelligence)로 나아갈 수 있는 매우 중요한 디딤돌이라고 볼 수 있다. AGI란 ‘일반 인공 rhcsky.tistory.com
Siamese Network 와 Contrastive Loss, Triplet Loss
- 출처 - https://towardsdatascience.com/a-friendly-introduction-to-siamese-networks-85ab17522942 A friendly Introduction to Siamese Networks You don’t always need a lot of data to train your model, learn how to create a model with a tiny number of images per class towardsdatascience.com https://tyami.github.io/deep%20learning/Siamese-neural-networks/ Siamese Neural Networks (샴 네트워크) 개념 이해하기 Siames..