close_btn

  • ※ 사이트 내부 통합검색


  • ※ Paypal 기부하기
    ※ 카카오페이로 기부하기

sharp EL-509X 및 EL-506W에서 아래와 같은 숫자들으 표준편차를 구하려고 합니다.

 

1 9.999987
2 9.999985
3 9.999988
4 9.999987
5 9.999984
6 9.999985
7 9.999982
8 9.999983
9 9.999982
10 9.999983
sum 99.99985
aver 9.999985
stdev

0.000002

excel프로그램에서는 실제로 숫자가 잘 계산이 되는데 공학용 계산기에서는 계산이 잘 안됩니다.

display 문제인가 싶어서 set up - 0 - 3 을 입력하여 NORM3으로 보기도 하고,

소숫점 9자리까지 표시되게 해보기도 하였으나 결과 자체가 자꾸 0.000000000 으로 표시됩니다.

계산과정은 mode - 1(STAT) - 0(SD) 입력후 data1 - M+ - data2 - M+ - ..... - data10+ M+ - ALPHA + 5(sx) 입니다.

 

소숫점 5자리까지는 잘 계산이 되는데 6자리인 것들로 하니까 자꾸 0이라고 나오네요

 

설명서를 보니 spec에

internal calulation : mantissas of up to 14 digits

Pending operation : 24 calculations 10 numeric value

                          (5 numeric value in STAT mode)

라고 되어있는데, STAT기능 활용시 5자리까지만 계산이 되는 것이고 spec의 이유로 소숫점 6번재짜리까지는 계산이 안되는 것이라고 생각하면될까요?

 

혹시 계산기를 통해서 위의 값들에 대한 표준편차를 구하는 것이 가능할까요?

실제 data들이 저렇게 나오고 있어서 좀 애매하네요 ㅜㅜ

 

댓글 '1'
  • profile
    세상의모든계산기 2018.10.16 21:10

    가지고 있는 EL-509W 로 계산해보니 루니루니님과 같은 결과입니다.
    평균값은 잘 계산되는데, 분산은 6자리 이하는 무시되는 현상이 있습니다.

    원인은 생각하신대로 계산과정 중 일정 자랏수(5) 이하 삭제 때문이 맞는 것 같습니다.
    그렇다면, 계산기(EL-509X 및 EL-506W 등) 내적으로는 해결 방법이 없을 것으로 보입니다.

    * 비슷한 급의 다이소 공학용 계산기(5천원, CASIO fx-350MS 카피모델)로 해보니,
    xσn = 2.059126028*10^(-06)
    xσn-1 = 2.170509413*10^(-06)
    으로 결과가 정상적으로 나옵니다.

?

List of Articles
번호 분류 제목 글쓴이 날짜 조회 수 추천 수
공지 공지 기부와 관련하여 (카카오페이 or Paypal) 4 세상의모든계산기 2018.06.27 229 0
공지 공지 홈페이지 접속이 안되는 경우 DNS 서버에 1.1.1.1 를 추가해 주세요. 1 file 세상의모든계산기 2016.12.01 371 0
공지 공지 소셜 로그인 기능 (네이버, 구글, 페이스북, 트위터 아이디와 연동) file 세상의모든계산기 2015.09.25 1494 0
공지 공지 [필독] 사이트 운영원칙 & 게시판 이용시 주의사항 (주제 / 제목 / 질문글) 1 세상의모든계산기 2015.03.31 1824 0
공지 공지 [필독] 계산기 질문글 작성시 주의사항! (부제 : 바람직한 질문글 작성 요령) 2 file 세상의모든계산기 2015.03.01 750 0
259 질문 [fx-350ms] 카시오 분수 계산 분수 계산법 궁금합니다 1 file 2018.12.30 237 0
258 일반 FX-570EX... 700시간?? 사고나서 보니.. 얼척이 없네요.. 아니.. FX-570ES 랑 같은 AAA 사이즈 건전지 들어가는데 ES는 17000시간..  EX는 700시간...  암만.. 해상도가 좀더 좋아지고 ... 4 arekny 2018.12.27 217 0
257 질문 일반계산기로 괄호가 포함된 식을 풀 수 있는 방법이 있을까요? 안녕하세요 카시오계산기 k-type을 쓰고 있습니다. 우선 제가 아는 바로는, 일반계산기로 괄호가 포함된 식을 구현하지 못한다고 들었습니다.  ex) 1+(2x3) 하지... 2 반바스텐 2018.12.19 144 0
256 일반 23 123 안다미로로 2018.12.07 75 0
255 질문 fx-570ESplus 계산기록보기 한번 리셋을하고 지금 보면 위에 STAT 과 오른쪽에 네모칸에1들어가있는 모양이  띄워져있습니다. 여러차례계산후 과거 계산이력을 보고싶습니다 REPLAY의 위아... 3 공대생 2018.12.06 298 0
254 일반 ti-nspire cas det식으로 미지수값 찾는법 질문입니다. 안녕하세요 요즘은 저번에 답변달아주신 expand 함수와 solve 함수를 잘은 아니지만 아주 기초적인 건 할 수 있을 정도가 되었습니다. 그래서 이번에도 solve함수... 7 file 초보공돌이 2018.12.05 218 0
253 일반 ti nspire 사용중인데 연립방정식 풀이질문이요!!     연립방정식 풀때 미지수갯수보다 식이 적으면 임의의 상수 c1으로 해서 결과 도출해주는건 알고있는데요!! 임의의상수 c1을 제맘대로 지정하는 방법좀 알려주... 1 가자구 2018.11.20 237 0
252 일반 ti-nspire cas 그래프 그리기 질문입니다. 매번 답변해주셔서 정말 큰 힘이 됩니다.     f(x)=600-180x-20x^3 f(x)=420-60x^2+40x^3  f(x)=600+40x^3    이 함수들을 x가 0부터 1까지 범위 그래프로 그리고... 3 file 벤킴 2018.11.14 401 0
251 질문 [ti-nspire cs cas] solve함수로 방정식 푸는 과정에서 질문입니다. 우선 모바일이라 사진이 안올라가는 점 죄송합니다. solve함수로 방정식을 푸는 중 제가 보기좋은대로 ‘Fa’를 ‘a’로 대신해서 넣고 ‘Fb’를 ‘b’로 지정해서     40... 2 초보공돌이 2018.11.13 217 0
250 질문 Nspire 질문드립니다. solve 사용하여 방정식 풀었는데 해가 이상하게 나와요   degree 형태로 보고싶습니다   고수님들 도와주십시오 ㅠㅠ   5 file 황제양념치킨 2018.11.12 233 0
249 질문 [Ti-nspire cx cas] expand 함수 활용에 대한 질문입니다. 안녕하세요 또 질문글을 올리게 되네요. 이번엔 저번에 알려주신 expand함수를 이용해서 잘 풀어가던 와중 막힌 부분이 있습니다. 중간에 f와 같이 미지수가 끼여... 4 file 초보공돌이 2018.11.09 161 0
248 질문 [Ti-Nspire CX CAS] 삭제된 폴더 복구방법이 있을까요? 원인을 모르겠는데 컴퓨터에 계산기를 연결하다가 갑자기 모든 폴더,파일이 삭제되버렸어요 ㅠㅠ 그래서 다시 복구시키려 하는데 방법이 있나요? 만약에 안된다면... 6 GBK 2018.11.03 103 0
247 질문 [Ti-nspire cx cas] det 결과값형식 바꾸는 것에 대한 질문입니다. 말로 하기보다 사진으로 먼저 보여드리는게 더 이해하시기 쉬울거라 생각해서 사진부터 올리겠습니다. 보시다시피 dat( ) 한 결과값이 ~~(i-~~(j-~~k)) 형식으로... 4 file 초보공돌이 2018.11.01 85 0
246 질문 [TI-nspire] 복소수 계산을 했는데 삼각함수 꼴로 나와버리네요 ㅠㅠ (1-e^-j3w)(2-4e^-jw + 3e^-j3w) 계산 해서 그냥 전개 하고 싶은데 엔터 누르면 sin cos 꼴로 나오네요 ㅠㅠ convert to polar 해도 안되구요 무슨 방법이 없을까... 3 ㅁㄴㅇ 2018.10.27 130 0
245 질문 [fx-9860g2] 해당 계산기에 오차함수(erf)를 계산하는 방법이 궁금합니다. 안녕하세요 항상 계산기 궁금한점이 있으면 자주 들락거리는 흔한 공대생입니다.  최근 위 계산식을 필요로 하는 문제에서 계산기를 이용하는 방법을 찾기못해 글... 3 file Anwack 2018.10.26 635 0
244 질문 두 개의 출력을 내보낼 수 있을까요 [TI-nspire CX CAS] a < b < c a = AA, c = CC 인 상태에서 AA와 CC를 알아내고 싶은데, 한 번에 두개를 전부 다 출력하는 함수는 작성 불가능한가요? 1 오후열시반 2018.10.23 110 0
243 질문 Casio 9860G2SD FA-124에서 g1a 형식 찾을수없음 대부분의 파일형식인 g1a을 선택할수가 없더라고요.. import에서 파일형식을 눌러봐도 g1m? g2m 뿐이고.. 이경우는 SD카드를 따로 구비해서 이용해야할까요 ? 1 공돌이우러욧 2018.10.23 66 0
242 질문 질문]카탈로그 내의 설명부분(도움말) 작성 방법, TI-Nspire CX CAS 카탈로그를 열어서 제가 작성한 .tns파일에 들어가면 아랫 부분(설명 부분, 도움말)에 아무것도 없던데, 다른 분들의 .tns를 열면 함수에 대한 설명이 작성되어있... 1 오후열시반 2018.10.19 48 0
» 질문 [sharp]EL-509X 소숫점 여섯째 자리까지 있는 결과 표준편차 구하기 sharp EL-509X 및 EL-506W에서 아래와 같은 숫자들으 표준편차를 구하려고 합니다.   1 9.999987 2 9.999985 3 9.999988 4 9.999987 5 9.999984 6 9.999985 7 9.9... 1 루니루니 2018.10.16 224 0
240 일반 공업수학 시험에 계산기가 허락된다고 하네요..   다른 공수에서는 계산기가 제한 된다는데 최근에 공업수학 수업을 맡게 되신 나이있으신 교수님이 써도 된다고 하네요 nspire cx cas 들고가면 desolve로 미분 ... 1 a1s2d3 2018.10.16 204 0
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 16 Next
/ 16