close_btn

  • ※ 사이트 내부 통합검색


  • ※ Paypal 기부하기
    ※ 카카오페이로 기부하기

공학용 계산기는 내부적으로 계산에 사용하는 (유효)숫자와 외부화면상에 보여주는 숫자의 자릿수 차이가 있습니다. 내부적으로 계산에 사용하는 (유효)숫자는 대략 12자리~15자리로 계산기마다 차이가 있습니다. 자릿수가 많을수록 계산 결과가 더 정확해 지지만, 그 댓가로 계산 속도를 잃게 됩니다. 그래서 적당한 수준에서 내부적 유효숫자를 정해놓은 것입니다. 

계산기에서 결과 화면상에 보이지 않는 추가적인 자릿수의 숫자를 확인하는 방법을 살펴보겠습니다. 


원리는 간단합니다. 안보이는 쪽은 숫자의 오른쪽이므로, 왼쪽을 하나씩 없애면 오른쪽이 하나 보이는 겁니다.

 

예시)

[CASIO fx-350 ES] 에서 log(1.23) 을 구하면 소숫점11자리까지만 나옵니다.
(자릿수 표시 설정 : Norm1 혹은 Norm2 인 경우)
K-20151014-443648.png

정수부분이 없으므로, 적당히 10n 을 곱해서 소수부분을 정수로 만들고, 그 정수부분을 없애보겠습니다. 
K-20151014-449088.png

여기서 정수부분을 빼줍니다.
K-20151014-449446.png

그러면 안보이던 뒷부분(393979)이 드러나게 되는 것이죠. 

같은 과정을 한번 더 하더라도 추가 자릿수는 나오지 않습니다. 
K-20151014-450348.png
(이미 계산기 내부의 유효 계산 자릿수를 다 확인하였기 때문입니다)

확인한 값을 연결하여 

최종 상용로그값 log(1.23) = 0.089951114393979 (유효숫자 14자리) 값을 구할 수 있게 되었습니다.

 

 주의

여러 단계의 계산인 경우에는 계산 과정중에 발생하는 오차가 확인하려고 하는 유효자릿수보다 클 수 있습니다. 그럴 때는 위의 방법으로 확인한 최종 결과값을 그대로 믿어서는 안됩니다.

따라서 결과값을 검토할 수 있다면 검토해서 사용하시고, 검토할 수 없다면 (틀린 결과일 수 있다는 가능성에) 주의해서 사용하시기 바랍니다. 그것이 중요한 의미를 갖는 계산일 때에는 wolfram alpha 사이트를 이용해서 계산하시는게 좋습니다. 

댓글 '1'
  • profile
    세상의모든계산기 2015.10.14 12:40

    울프럼 알파로 확인한 결과값

    http://www.wolframalpha.com/input/?i=log%2810%2C1.23%29
    0.089905111439397931804439753223296108730642498024382953837222...

?