본문 바로가기

AI Basic/Math for AI2

[Math for AI] joint pdf와 likelihood function은 같은 식을 다르게 해석한 것에 불과할까? Question 수리통계학 문제를 풀다보면 likelihood function을 사용하는 문제에서 대부분 joint pdf를 이용하여 likelihood를 구한다. 이는 likelihood와 joint pdf가 같은 식임을 의미하는데, 그렇다면 joint pdf와 likelihood function은 같은 식을 다르게 해석한 것에 불과할까? joint pdf와 likelihood function joint pdf 특정 모수가 주어졌을 때, 데이터들이 나타날 확률 likelihood function 데이터들이 주어졌을 때, 특정 모수가 해당 데이터를 나타낼 확률 → 어떠한 데이터들이 관찰되었을 때, 그 데이터들이 어떤 분포로부터 왔는지 알고싶을 때 사용 같은 식이지만 다르게 해석되는 joint pdf와 l.. 2023. 4. 2.
[Math for AI] 확률론 딥러닝에서 확률론이 필요한 이유 기계학습에서 사용하는 손실 함수(loss function)들의 작동 원리는 확률론을 기반으로 하고 있다 회귀 분석에서 사용하는 손실 함수인 l2-norm: 예측 오차의 분산을 최소화하는 방향으로 학습을 유도 분류 문제에서 사용하는 손실 함수인 cross-entropy: 모델 예측의 불확실성을 최소화하는 방향으로 학습을 유도 ⇒ 분산 및 불확실성을 최소화하기 위해서는 이들을 측정하는 방법을 알아야 하는데, 이것을 통계학에서 제공하기 때문에 기계학습을 이해하기 위해서는 확률론의 기본 개념에 대한 이해가 선행되어야 한다 확률분포, 확률변수 확률변수 random variable 확률 실험(random experiment)의 결과 또는 결과물에 대한 숫자적 표현 이산확률변수와 연속.. 2023. 3. 13.