Math for Deep Learning/Probability & Statistics

    Markov Chain

    https://www.youtube.com/watch?v=qvSjIoMWBLY&ab_channel=iAIPOSTECH

    MLE와 MAP

    딥러닝을 처음 배울 때에는 내가 지금 배우는 딥러닝과 선형대수/확률통계의 기본적 개념 사이의 연결성이 전혀 형성되지 않은 채로 배웠다. 그러다 점점 그 기저에 수학적인 바탕이 깔려 있다는 것을 알게 되고, MAP, MLE라는 단어도 자주 접하며 궁금증을 갖게 된다. MAP와 MLE에 대해 간단하게 정리해 본다. 1. 기본 용어 정리 x : 모델 (어떠한 사건이 발생할 수 있는 환경) z : 사건 (결정된 모델에서 발생하는 특정 이벤트) 예를 들어 특정한 길이의 머리카락을 발견했다고 하자. 그 머리카락은 남자 혹은 여자에게서 나왔을 것이다. 머리카락을 발견한 사건이 z이며, 남자 또는 여자가 모델 x이다. P(z|x) : 가능도, likelihood 모델 x가 결정되었을 때, 그 모델 x에서 사건 z가 발..

    2강 - 독립사건과 확률

    2강 - 독립사건과 확률 2.1 - 2.2 - 2.3 - 2.4 - 2.5 -

    1강 - 조건부확률과 베이즈 정리

    1강 - 조건부확률과 베이즈 정리 1.1 용어 정리Sample Space (표본공간) : 시행을 통해 나올 수 있는 모든 경우의 집합Event (사건) : 표본공간의 부분집합P(A) = Prob(outcome ∈ A)조건부 확률 P(B | A) : 배반사건 : 서로 서로소인 사건전확률정리 (Total Probability) :(S1,S2 등은 모두 배반사건이며, S의 부분집합이다. 또한 모두 합집합 연산을 하면 S가 된다) 1.2 베이즈 정리 1.3 독립 P(B|A) = P(B) 인 경우, 두 사건은 독립이라 한다위 수식을 정리하면 P(A∩B) = P(A)P(B) 이다복원추출, 독립시행 등이 독립사건의 예이다 (주머니 공 꺼내기/주사위 던지기)독립과 배반사건은 완전히 다른 개념!!A와 B가 독립이면 A와..