이현녀 선생님의 답변입니다.
근사값의 계산은 유효숫자가 큰 쪽의 수의 유효숫자의 자리를 맞추어서 계산하는 걸로 알고
있습니다.
두 수의 덧셈이나 뺄셈은 상관이 없는 데
세 수 이상의 덧셈이나 뺄셈은...두 개씩 계산 후 자리를 맞춘것과
세 수 모두 계산 후 자리를 맞춘 것이 답이 다릅니다.
왜 그런 지 궁금합니다.~~
유효숫자란 자에 나타나 있는 눈금의 단위가 얼마인가를 묻는 문제와 같습니다. 어떤 길이를 잴 때 또는 무게를 달 때 눈금을 읽는 방법은
눈금과 눈금 사이에서 가까운 쪽의 눈금을 읽는 것입니다. 즉 끝자리가 5가 넘으면 올리고 5가 안되면 버리기 때문에 계산 결과가 다를 수
있습니다. 근사값의 덧셈 또는 뺄셈은 단위가 큰 것에 맞춰 계산합니다.
이 때 두 수의 합이 반올림되는 경우는 먼저 두 수를 합한 뒤 다른 수와 합하는 것과 세 수를 한꺼번에 자리 맞춘 뒤 계산하는 것은 서로
다르게 됩니다. 근사값이므로 충분히 있을 수 있는 일이지요.
예) (12.4 + 13.3) + 5 = 31
자리수를 먼저 맞추면 12+13+5=30 |
