close_btn

  • ※ 사이트 내부 통합검색


  • ※ Paypal 기부하기
    ※ 카카오페이로 기부하기

1. 공학용 계산기에서 유효자릿수(Significant Digits)란? 

과학적 실험 등에서 일반적으로 사용되는 개념으로서 "유효숫자" 또는 "유효자릿수"라는 것이 있습니다만, 계산기에서는 그것과 조금 다른 개념으로 "유효숫자 (Significant Digits)"라는 용어를 사용합니다. 

계산기에서는 어떠한 숫자(또는 계산 결과)가 정확한 값(Exact Number)과 구별되는 근사값(Approx Number)으로 인식될 때, 최대의 유효한 자릿수(10개~14개, 계산기마다 다름)만 남고, 나머지는 버려집니다. (헷갈리신다면 계산상 최대 자릿수로 이해하셔도 됩니다)

이 유효한 자릿수는 고정된 최대 자릿수만 있을 뿐이어서, 과학분야에서처럼 수식 내에서 가장 작은 유효 자릿수를 따라간다거나 하지는 않습니다.

 

2. 계산기 유효숫자 예시

예시 1)

1.9*10^27 + 5 = ? 

참 값 = 1900000000000000000000000005 (정수)

이 값은 과학적 표기로 바꾸면 1.900000000000000000000000005 × (10^27) 입니다. 
(1에서부터 마지막 5까지 정수 자릿수 27자리)

이 값은 유효숫자가 계산기가 허용하는 최대 자릿수보다 크기 때문에, (꼬리가 짤린) 1.9000000000000 × (10^27) 만 계산기의 메모리에 저장됩니다. 

  • 저장되는 유효숫자의 갯수는 계산기마다 다릅니다.
  •   정수(exact integer)와 소수(부동소숫점)의 유효자릿수가 다른 계산기도 있습니다. ([TI-nspire] 등)

 

예시 2)

(1.9×10^(-27)) + 5 = ? 

참값은 5.0000000000000000000000000019 이지만, 최대 자릿수 제한으로 (꼬리가 짤린) 5.0000000000000 정도만 메모리에 저장이 됩니다. 

 

예시 3) 

(1.9 × 10^27 +5 ) - (1.9 × 10^27) = ?

당연히 5가 답으로 나와야 하지만, 실제로는 0이 나오게 됩니다. 
수식의 계산 순서를 바꾸면 다시 5가 나오기도 하구요. 

sigdig1-p32.png
└ [TI-nspire]

K-20160203-554641-p32.png K-20160203-554530-p32.png
└ [fx-570 ES]

 

댓글 '5'
?