close_btn

  • ※ 사이트 내부 통합검색


  • ※ Paypal 기부하기
    ※ 카카오페이로 기부하기

sharp EL-509X 및 EL-506W에서 아래와 같은 숫자들으 표준편차를 구하려고 합니다.

 

1 9.999987
2 9.999985
3 9.999988
4 9.999987
5 9.999984
6 9.999985
7 9.999982
8 9.999983
9 9.999982
10 9.999983
sum 99.99985
aver 9.999985
stdev

0.000002

excel프로그램에서는 실제로 숫자가 잘 계산이 되는데 공학용 계산기에서는 계산이 잘 안됩니다.

display 문제인가 싶어서 set up - 0 - 3 을 입력하여 NORM3으로 보기도 하고,

소숫점 9자리까지 표시되게 해보기도 하였으나 결과 자체가 자꾸 0.000000000 으로 표시됩니다.

계산과정은 mode - 1(STAT) - 0(SD) 입력후 data1 - M+ - data2 - M+ - ..... - data10+ M+ - ALPHA + 5(sx) 입니다.

 

소숫점 5자리까지는 잘 계산이 되는데 6자리인 것들로 하니까 자꾸 0이라고 나오네요

 

설명서를 보니 spec에

internal calulation : mantissas of up to 14 digits

Pending operation : 24 calculations 10 numeric value

                          (5 numeric value in STAT mode)

라고 되어있는데, STAT기능 활용시 5자리까지만 계산이 되는 것이고 spec의 이유로 소숫점 6번재짜리까지는 계산이 안되는 것이라고 생각하면될까요?

 

혹시 계산기를 통해서 위의 값들에 대한 표준편차를 구하는 것이 가능할까요?

실제 data들이 저렇게 나오고 있어서 좀 애매하네요 ㅜㅜ

 

댓글 '1'
  • profile
    세상의모든계산기 2018.10.16 21:10

    가지고 있는 EL-509W 로 계산해보니 루니루니님과 같은 결과입니다.
    평균값은 잘 계산되는데, 분산은 6자리 이하는 무시되는 현상이 있습니다.

    원인은 생각하신대로 계산과정 중 일정 자랏수(5) 이하 삭제 때문이 맞는 것 같습니다.
    그렇다면, 계산기(EL-509X 및 EL-506W 등) 내적으로는 해결 방법이 없을 것으로 보입니다.

    * 비슷한 급의 다이소 공학용 계산기(5천원, CASIO fx-350MS 카피모델)로 해보니,
    xσn = 2.059126028*10^(-06)
    xσn-1 = 2.170509413*10^(-06)
    으로 결과가 정상적으로 나옵니다.

?

List of Articles
번호 분류 제목 글쓴이 날짜 조회 수 추천 수
공지 공지 기부와 관련하여 (카카오페이 or Paypal) 3 세상의모든계산기 2018.06.27 107 0
공지 공지 홈페이지 접속이 안되는 경우 DNS 서버에 8.8.4.4 를 추가해 주세요. file 세상의모든계산기 2016.12.01 257 0
공지 공지 소셜 로그인 기능 (네이버, 구글, 페이스북, 트위터 아이디와 연동) file 세상의모든계산기 2015.09.25 1377 0
공지 공지 [필독] 사이트 운영원칙 & 게시판 이용시 주의사항 (주제 / 제목 / 질문글) 1 세상의모든계산기 2015.03.31 1805 0
공지 공지 [필독] 계산기 질문글 작성시 주의사항! (부제 : 바람직한 질문글 작성 요령) 2 file 세상의모든계산기 2015.03.01 644 0
252 일반 ti-nspire cas 그래프 그리기 질문입니다. 매번 답변해주셔서 정말 큰 힘이 됩니다.     f(x)=600-180x-20x^3 f(x)=420-60x^2+40x^3  f(x)=600+40x^3    이 함수들을 x가 0부터 1까지 범위 그래프로 그리고... 2 file 벤킴 2018.11.14 17 0
251 질문 [ti-nspire cs cas] solve함수로 방정식 푸는 과정에서 질문입니다. 우선 모바일이라 사진이 안올라가는 점 죄송합니다. solve함수로 방정식을 푸는 중 제가 보기좋은대로 ‘Fa’를 ‘a’로 대신해서 넣고 ‘Fb’를 ‘b’로 지정해서     40... 2 초보공돌이 2018.11.13 17 0
250 질문 Nspire 질문드립니다. solve 사용하여 방정식 풀었는데 해가 이상하게 나와요   degree 형태로 보고싶습니다   고수님들 도와주십시오 ㅠㅠ   5 file 황제양념치킨 2018.11.12 31 0
249 질문 [Ti-nspire cx cas] expand 함수 활용에 대한 질문입니다. 안녕하세요 또 질문글을 올리게 되네요. 이번엔 저번에 알려주신 expand함수를 이용해서 잘 풀어가던 와중 막힌 부분이 있습니다. 중간에 f와 같이 미지수가 끼여... 4 file 초보공돌이 2018.11.09 53 0
248 질문 [Ti-Nspire CX CAS] 삭제된 폴더 복구방법이 있을까요? 원인을 모르겠는데 컴퓨터에 계산기를 연결하다가 갑자기 모든 폴더,파일이 삭제되버렸어요 ㅠㅠ 그래서 다시 복구시키려 하는데 방법이 있나요? 만약에 안된다면... 6 GBK 2018.11.03 64 0
247 질문 [Ti-nspire cx cas] det 결과값형식 바꾸는 것에 대한 질문입니다. 말로 하기보다 사진으로 먼저 보여드리는게 더 이해하시기 쉬울거라 생각해서 사진부터 올리겠습니다. 보시다시피 dat( ) 한 결과값이 ~~(i-~~(j-~~k)) 형식으로... 4 file 초보공돌이 2018.11.01 45 0
246 질문 [TI-nspire] 복소수 계산을 했는데 삼각함수 꼴로 나와버리네요 ㅠㅠ (1-e^-j3w)(2-4e^-jw + 3e^-j3w) 계산 해서 그냥 전개 하고 싶은데 엔터 누르면 sin cos 꼴로 나오네요 ㅠㅠ convert to polar 해도 안되구요 무슨 방법이 없을까... 3 ㅁㄴㅇ 2018.10.27 54 0
245 질문 [fx-9860g2] 해당 계산기에 오차함수(erf)를 계산하는 방법이 궁금합니다. 안녕하세요 항상 계산기 궁금한점이 있으면 자주 들락거리는 흔한 공대생입니다.  최근 위 계산식을 필요로 하는 문제에서 계산기를 이용하는 방법을 찾기못해 글... 3 file Anwack 2018.10.26 81 0
244 질문 두 개의 출력을 내보낼 수 있을까요 [TI-nspire CX CAS] a < b < c a = AA, c = CC 인 상태에서 AA와 CC를 알아내고 싶은데, 한 번에 두개를 전부 다 출력하는 함수는 작성 불가능한가요? 1 오후열시반 2018.10.23 62 0
243 질문 Casio 9860G2SD FA-124에서 g1a 형식 찾을수없음 대부분의 파일형식인 g1a을 선택할수가 없더라고요.. import에서 파일형식을 눌러봐도 g1m? g2m 뿐이고.. 이경우는 SD카드를 따로 구비해서 이용해야할까요 ? 1 공돌이우러욧 2018.10.23 34 0
242 질문 질문]카탈로그 내의 설명부분(도움말) 작성 방법, TI-Nspire CX CAS 카탈로그를 열어서 제가 작성한 .tns파일에 들어가면 아랫 부분(설명 부분, 도움말)에 아무것도 없던데, 다른 분들의 .tns를 열면 함수에 대한 설명이 작성되어있... 1 오후열시반 2018.10.19 39 0
» 질문 [sharp]EL-509X 소숫점 여섯째 자리까지 있는 결과 표준편차 구하기 sharp EL-509X 및 EL-506W에서 아래와 같은 숫자들으 표준편차를 구하려고 합니다.   1 9.999987 2 9.999985 3 9.999988 4 9.999987 5 9.999984 6 9.999985 7 9.9... 1 루니루니 2018.10.16 56 0
240 일반 공업수학 시험에 계산기가 허락된다고 하네요..   다른 공수에서는 계산기가 제한 된다는데 최근에 공업수학 수업을 맡게 되신 나이있으신 교수님이 써도 된다고 하네요 nspire cx cas 들고가면 desolve로 미분 ... 1 a1s2d3 2018.10.16 78 0
239 질문 fx-570es plus 계산기 왜이럴까요(수정) 15/8.3144+1.7ln(1.7)=(X+1.7)ln(X+1.7)-XlnX   이 식에서 X값을 구해야 합니다. fx-570es plus에서 식을 저렇게 쓰고 solve를 누르면 X=0이라고 나오는데 실제 ... 2 캌싯오 2018.10.13 139 0
238 질문 ti nspire cas 적분 질문합니다. sqrt(1-cos(x))는 부정적분이 안되는건가요? 정적분은 잘되는데 부정적분은 원래식 그대로만 띄어주고 안되네요. 1 피릿이 2018.10.06 110 0
237 질문 fx9860g 펌웨어 업데이트 안녕하세요 fx-9860g를 사용하는 학생인데요, 제대 후 전자과 공부를 하는데 복소수 계산이 너무 많이 나와서,  전공공부는 제쳐두고 계산기 공부부터 하고있습니... 1 fx9860g공부중 2018.09.30 201 0
236 질문 [nspire] desolve에서 삼각함수 들어갔을 때 올바른 해가 나오지 않습니다 ㅠㅠ deSolve(60*x''+1500*x=90*sin(2.5*t) and x(0)=0 and x'(0)=0,t,x) 를 입력시 x=−0.04*sin(5.*t)-5242.88*sin(t)*(((sin(t))^(2)-0.25)*(cos... 10 kwj**** 2018.09.25 600 0
235 질문 nspire 행렬 내에 식을 극좌표 변환 할 수 있나요?? 질문있습니다 nspire이용중이고 현재 위상자쪽 공부하는 중인데 행렬식을 내에서는 복소평면상에서 직교좌표로 나온 값을 극좌표로 변환할 수 없는지 궁금합니다. 1 질문141 2018.09.23 193 0
234 질문 [Ti-nspire cx cas] 함수를 이용한 계산 질문입니다. 과제를 해내가던중 계산기의 함수 지정 방법을 이용하고 싶어, 세모계의 메뉴얼을 읽고 직접 함수를 지정하여 문제를 풀려고 합니다. 그런데, 대부분에 적용가능... 5 해결전문 2018.09.17 496 0
233 일반 만년필 잉크에도 곰팡이가 피는군요 참으로 오랫만에 잉크 뚜껑을 열어 봤습니다. 정확한 기억은 아니지만 구입한 것은 아마도 3년쯤 된 것 같고, 마지막으로 뚜껑 연 것은 1년이 넘을 듯 싶습니다. ... 세상의모든계산기 2018.09.16 222 0
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 13 Next
/ 13