본문

유효숫자, 과학적 표기법의 정의 및 문제풀이


유효숫자란, 오차의 범위를 정확하게 표기하기 위하여 사용하는 “측정값이나 계산값의 의미있는 수”를 의미한다. 또한 유효숫자의 마지막 숫자는 (반올림 등으로 인한) 불확실한 숫자를 뜻할 수 있다. 또한 같이 사용되는 과학적 표기법은 N * 10^n의 형태의 표기법을 뜻하며, 이때 N은 1이상 10미만의 수, n은 정수를 가리킨다.


유효숫자의 계산은 덧/뺄셈과 곱/나눗셈에 있어서 차이를 보인다.

덧/뺄셈의 경우, [과학적 표기법을 사용한 상태에서 같은 지수(n)를 갖도록 조정하고] 소수점상의 유효숫자가 가장 적은쪽으로 맞추어 반올림한다. 

ex) 2.097(소숫점상 유효숫자 3개)-0.12(소숫점상 유효숫자 2개)=1.977=>1.98(소숫점상의 유효숫자를 2개로 맞추기 위해 반올림함.)


곱/나눗셈의 경우, 가장 적은 유효숫자를 기준으로 반올림을 한다. 

ex) 2.8(유효숫자 2개) x 4.5039(유효숫자 5개)=12.61092=>13(유효숫자 2개로 맞추기 위하여 반올림)


문제풀이

7.310(4개)/5.70(3개)=1.28(3개)

->나눗셈의 경우이므로, 식에서 가장 적은 유효숫자를 가지는 5.70(3개)을 기준으로 결과의 유효숫자를 맞춘다 


* (3.26x10^-3) – (7.88x10^-5) = (3.26x10^-3) - (0.0788x10^-3) = (3.182x10^-3) = (3.18x10^-3) 

-> 뺄셈의 경우이므로 우선 같은 지수를 가지도록 맞춘 후(10^-3으로) 둘을 빼고, 가장 작은 소숫점상의 유효숫자가 2개이므로 결과도 소숫점상의 유효숫자가 2개가 되도록 맞춘다. 지수 두개를 늘리려면 소숫점을 오른쪽으로 두칸 움직여준다.


* (4.02x10^6) + (7.74x10^7 ) = (0.402x10^7) + (7.74x10^7) = (8.14x10^7)

-> 덧셈의 경우이므로 우선 같은 지수를 가지도록 맞춘 후 (10^7으로) 둘을 더하고, 가장 작은 소숫점상의 유효숫자가 2개이므로 결과도 소숫점상의 유효숫자가 2개가 되도록 맞춘다. 지수 하나를 늘리려면 소숫점을 오른쪽으로 한칸 움직여준다.


* (7.8-0.34) / (1.15+0.82) = (7.46->7.5) / (1.97) = 7.5 / 1.973.807106598984772 = 3.8

-> 뺄/덧셈과 나눗셈의 혼합식이다. 우선 괄호 두개를 먼저 계산한다. 이때 서로 같은 지수를 사용하므로, 과학적 표기법으로 표기할 필요없이 육안으로 바로 계산하여 구한다. 그 결과 유효숫자가 2개, 3개로 이루어진 식이 나오고 이를 나누어야 하므로 이들 중 작은 2를 기준으로 하여 답을 조정한다.


========================

책이 번역이 깔끔하지 않아서 개념정리겸 해서 글을 올린다. 본문의 '1~10의 수'라는게 뭔가 해서 원문을 찾아보니 'a number between 1 and 10'이었다. 상식상 1이상 10 미만의 수라고 생각되는데, 역자에게 해석이 애매하자 대충 때워 넘긴 느낌이다. 

between A and B는 참 오묘하다 어떨때는 양단을 포함하기도 하고, 어떨때는 포함하지 않기도 한다. 물론 데이터베이스에서의 between은 양단을 포함하는 개념을 사용한다. 어떤 사람들은 이러한 혼란을 방지하기 위해 'inclusive/exclusive' 혹은 'but not'등의 단어를 붙여 사용하기도 한다. 물론 from A to B라고 하는게(양단 포함) 명확하겠지. 특히 위와같은 경우에는 수학적 표현법을 차용하여 1'이상'을 'more than or equal to', 10 미만을 'less than'이라고 구분하여 쓰는게 더 좋았으리라!


그리고 위 그림에서 '유효숫자가 무한함'이라고 적어놓았는데 '모든 숫자가 유효하다'라고 하는것이 더 이해가 쉬울것 같다. 다시 수정하기 번거로워서 그냥 놔둔다. 또 덧붙이자면 맨 마지막 '다양한 유효숫자가 나올 경우'라는것은 소숫점이 없을때에 대한 이야기이며, 이때, 뒷부분에 붙은 0에 대해서 이것이 유효하냐 무효하냐에 대한 의문에 다양한 결과가 나올 수 있다는 의미이다.

저작자 표시 비영리 변경 금지
신고

댓글 23

  • 게스트 썸네일
    화공환경 무기재료 퍼가요
    2012.10.18 18:08 신고

    1231

  • 게스트 썸네일
    2012.10.19 10:14 신고

    네~ 출처만 표기해주세요^^

  • 게스트 썸네일
    감사합니다
    2013.03.17 11:36 신고

    좋은 글 감사합니다.
    대학 새내기에게 도움이 많이 되었네요 ㅠㅠ

  • 게스트 썸네일
    감사합니다
    2013.10.05 17:18 신고

    유효숫자가 늘 헷갈렸는데 많은 도움 받고갑니다. 개인적 보관 가능할까요?

  • 게스트 썸네일
    감사해요!
    2014.03.11 21:23 신고

    감사히 보고 갑니다! 친절한 설명 감사해요!

  • 게스트 썸네일
    2014.04.22 00:22 신고

    진짜 감사합니다 ㅎㅎ

  • 게스트 썸네일
    궁금
    2015.03.11 22:47 신고

    0.03200이면 유효숫자 4개인가요? 맞다면 1<때 맨오른쪽에 오는 0은 모두 유효숫자로 처리하나요?? 그리고 덧셈에서 소수점이 없는 숫자를 더할땐 12+123이면 유효숫자가 작은걸로 맞추나요??

    • 게스트 썸네일
      2015.11.03 19:46 신고

      맞습니다. 단 마지막 질문은 그림의 마지막 줄을 참고하시면 될것 같습니다.

  • 게스트 썸네일
    고맙습니다.
    2015.05.11 19:22 신고

    도움이 많이되었습니다. 감사합니다.

    • 게스트 썸네일
      2015.11.03 19:48 신고

      저도 오랜만에 제 게시물 보는데 이 짧은글로도 도움이 된다는게 신기하네요^^;;

  • 게스트 썸네일
    토시노쿄코 사랑해
    2015.06.16 18:33 신고

    시험 전에 많은 도움이 됐습니다
    감사합니다

  • 게스트 썸네일
    토시노쿄코 사랑해
    2015.06.16 18:33 신고

    시험 전에 많은 도움이 됐습니다
    감사합니다

  • 게스트 썸네일
    2015.06.21 17:13

    비밀댓글입니다

  • 게스트 썸네일
    2015.06.21 17:13

    비밀댓글입니다

  • 게스트 썸네일
    2016.03.21 22:19

    비밀댓글입니다

  • 게스트 썸네일
    2017.04.04 16:10 신고

    교수님이 30분수업해도 이해가안되던걸 여기서 이글한번 읽고 이해하고갑니다 감사합니다~

Holic Spirit :: Tistory Edition

design by tokiidesu. powerd by kakao.

티스토리 툴바