확률분포를 엔트로피로 표현하기
2025.01.16
1. 확률분포와 엔트로피
확률분포를 엔트로피로 표현하면 그 분포가 나타내는 불확실성의 정도를 수치화할 수 있다. 높은 엔트로피 값은 결과를 예측하기 어려운 상황을 의미하며, 낮은 엔트로피 값은 결과를 상대적으로 쉽게 예측할 수 있음을 나타낸다. 이를 통해 분석하고자 하는 대상에 대한 심도 있는 이해와 신뢰성 있는 예측 및 의사결정을 할 수 있다.
2. 열역학에서의 엔트로피
열역학에서의 엔트로피는 시스템의 무질서함 또는 혼돈의 정도를 나타내는 척도이다. 엔트로피 증가의 법칙에 따르면 고립된 시스템의 엔트로피는 시간이 지남에 따라 증가...
2025.01.16