항상 좋은 수업에 감사드립니다.
조건부 엔트로피 H(Y|X) 관련하여 질문드립니다.

우선 제가 이해한 H(Y|X)의 개념은 다음과 같습니다.

X를 'feature의 값들이 random으로 추출되는 사건'이라고 했을 때, 확률변수 X는 특정 Distribution을 갖는 변수가 됩니다.

확률변수 X의 특정 값을 x라고 했을 때,개별 x값에서의 엔트로피는 H(Y|X=x)와 같이 표현될 수 있습니다.

여기서 엔트로피가 기대값 개념이기 때문에,
개별 x값이 주어졌을 때의 엔트로피 값의 평균을 구하면 아래와 같이 교재에서의 식이 구해집니다.
H(Y|X) = E( H(Y|X=x) ) = Σx P(X=x) * H(Y|X=x)

교수님께서 'Σx P(X=x)' 부분을 설명해 주실 때,
마치 MAP(Maximum a Posteriori) 에서의 '사전정보'와 유사하다고 말씀해 주셨는데요.
공식의 shape만 봤을 때는 이 '사전정보' 개념이 대충 이해가 갑니다.
하지만 위에서 제가 추론해 본 엔트로피의 '기대값' 개념과 연관 지었을 때는 잘 이해가 가지 않습니다.

엔트로피의 '기대값' 개념과, 이 '사전정보' 사이의 어떠한 연관이 있는 건가요?

만약 제가 정의한 부분에 오류가 있을 경우 지적해 주시면 정말 감사하곘습니다.

감사합니다.