Likelihood, MLE, Cross Entropy
·
Math & Statistics
머신러닝/딥러닝을 공부하다보면 likelihood라는 단어가 자주 등장한다 이것이 무엇이며, 왜 사용하고, 어떻게 사용하는지 알아보자 Probability 확률 (Probability) : PDF의 면적; 확률분포가 고정된 상태에서 해당 관측값(데이터)이 나올 확률, P ( data | distribution ) 확률밀도함수 (Probability Density Function, PDF) : 연속 확률변수의 분포를 나타내는 함수 '확률' 이라고하면 이산 확률을 먼저 떠올리기 쉽다 (동전에서 앞면이 나올 확률? 주사위에서 6이 나올 확률?) 그렇다면 연속 확률은 어떻게 구할까 (고양이의 무게가 4kg 이상 5kg 미만일 확률?) $$ P(4 \le Cat\ weight < 5\ |\ N(4, 0.5) = ..