1. 정확도와 정밀도
1.1. 유효숫자
유효숫자란 측정값이나 계산값에서 오차를 고려해도 신뢰할 수 있는 숫자이다. 숫자 앞쪽의 있는 0은 의미가 없지만, 숫자 중간의 0은 의미가 있다. 또한 수의 크기를 나타내기 위해 붙인 0은 유효하지 않으나, 소수점 이하의 0은 유효하다. 일반적으로 덧셈 또는 뺄셈을 할 때는 두 숫자에서 소수점아래 자리가 적은 쪽으로 유효숫자를 일치시키고, 곱셈 또는 나눗셈을 할 때는 두 숫자에서 유효숫자의 개수가 적은 쪽으로 유효숫자를 일치시킨다. 백분율 오차(백분율 편차)는 실험적으로 결정된 값이 주어진 ...
2025.03.15