로그인 바로가기 하위 메뉴 바로가기 본문 바로가기

인공지능 및 기계학습 개론 II

임시 이미지 KAIST 산업및시스템공학과 문일철 교수
http://kooc.kaist.ac.kr/machinelearning2__17/forum/10642
좋아요 1115 수강생 5473

1. Continuous한 상황에 한정하여, rejection sampling을 위해서는 PDF (Probabilistic Density function)를 정확히 알아야만 합니다.

- Rejection sampling의 기본 원리가 곧 쉽게 샘플을 생성할 수 있는 q (proposal distribution)에서 샘플들을 생성한 뒤에 해당 샘플들의 분포가 p를 따르도록 수정하는 것이며, q를 만들어내기 위해서는 원래 PDF를 정확하게 알아야만 합니다. 

- 실제 환경에서는 각각의 데이터값이 나올 확률은 정확히 알고 있으나, 해당 변수의 distribution이 어떤 distribution을 따르고 있는지는 잘 모르거나 결정짓기 어려운 경우가 많습니다. 해당 distribution이 어떤 distribution인지 정확히 모르는 상황에서는 해당 distribution의 parameter 또한 안다고 말하기 어려운 상황이겠지요?

라고 조교님께서 아랫분에게 답변 주신 것을 봤습니다.

1번 답변의 "Continuous한 상황에 한정하여, rejection sampling을 위해서는 PDF (Probabilistic Density function)를 정확히 알아야만 합니다"에서 반드시 알아야하는 PDF는 강의자료에 있는 q의 PDF를 말씀하시는 건가요?

만약 반드시 알아야하는 PDF가 p의 PDF라면 아래와 같은 질문을 드리고 싶습니다.

pdf는 알지만 sampling은 할 수 없는 경우가 직관적으로 잘 이해되지 않습니다.

pdf를 안다면 그 distribution의 파라미터 역시 안다고 볼 수 있지 않은가요?

예를 들어 가우시안 분포의 경우 pdf를 알면 가우시안 분포의 파라미터인 평균과 표준편차를 다 알 수 있다고 생각합니다.

항상 수고가 많으십니다.

감사합니다.