[ToDo] Contrastive Learning 알아보기

What is Contrastive Learning? 대조 학습(Contrastive Learning)은 레이블이 지정되지 않은 데이터 요소가 서로 병치되어 어떤 점이 유사하고 다른 모델을 가르칠 수 있는지 기계 학습 패러다임입니다. 즉, 이름에서 알 수 있듯이 샘플은 서로 대조되며, 동일한 분포에 속하는 샘플은 임베딩 공간에서 서로 밀린다. 이와는 대조적으로, 서로 다른 분포에 속하는 이들은 서로 끌어당긴다. Representation Learning 2가지 접근법이 존재 (생성 모델, 판별 모델) 생성 모델로 데이터의 표현을 학습하는 경우, 비지도 학습이기 때문에 데이터 구축 비용이 낮다는 장점 또한 저차원 표현을 학습하는데에 있어 목적함수가 보다 일반적이라는 장점이 잇다. 판별 모델의 경우에는 계산..

2022.08.13