머신러닝1 MCMC (Markov chain monte Carlo) and MALA (Metropolis-Adjusted Langevin Algoritm) MCMC mcmc란 markov chain monte carlo (마르코프 연쇄 몬테카를로 Markov chain에 기반한 확률분포로 부터 원하는 분포를 갖는 표본을 추출하는 알고리즘이다. Generative model $p(x)$ $E_{x \sim p(x)}[f(x)] \approx \frac{1}{N} \sum_1^N f(x) $ Rejection sampling 분포를 잘 알 수 없는(표본을 쉽게 뽑을 수 없는) $f(x)$와 분포를 잘 아는(표본을 쉽게 뽑을 수 있는) $g(x)$가 있을때, $g(x)$를 이용해 $f(x)$를 샘플링하는 방법이다. $f(x_1) < cg(x_2)$ 를 만족하는 $c$를 취한다. 임의의 점 $x_t$에 대해 $e(x_t) = 0.8$, $f(x_t) = 0.2$ .. 2022. 3. 9. 이전 1 다음