공학용 계산기 표시 자릿수 설정하기

공학용 계산기로 계산한 결괏값을 여러 형식으로 보는 방법을 알아봅니다.

공학용 계산기 표시 형식

보통 공학용 계산기의 결과 표시 형식에는 크게 두 가지가 있습니다.

• Fix(혹은 FIX): 계산 결과의 소수점 아래 자릿수를 설정합니다.
• Sci(혹은 SCI): 계산 결과의 유효숫자 표시 자릿수를 설정합니다.

공학용 계산기 표시 형식 예시

Fix 표시 형식은 이해하기 쉽습니다. 지정한 소수점 아래 자릿수 아래에서 반올림해서 결과를 표시합니다. 예를 들면 Fix 3을 설정했다고 합시다. 그럼 아래와 같이 결과가 표시됩니다.

$${1\over7}=0.143$$

소수점 아래 4번째 자릿수부터는 반올림됩니다. 0.142857...이니 8을 반올림하여 0.143이 된 것입니다.

다만 계산 결과의 정수 부분 자릿수와 소수 부분 자릿수의 합이 일정 개수를 넘으면 Fix에 지정한 자릿수만큼 소수점 아래 자릿수가 표시되지 않을 수 있습니다. 예를 들어 Fix 4를 설정했다고 해도 대부분의 카시오 계산기에서는 $${10^9+1 \over 7}=142857143.0$$으로 표시됩니다. 왜냐하면 해당 계산기에서는 최대로 표시할 수 있는 자릿수가 10자리이기 때문입니다. 따라서 정수 부분 9자리+소수 부분 1자리로 표시를 하게 됩니다. TI-Nspire CX CAS의 경우에는 최대로 표시할 수 있는 자릿수가 12자리입니다.

Sci 형식은 a×10^b처럼 지정한 유효숫자의 개수만큼 결과를 표시합니다. 예를 들어 Sci 4를 설정했다고 합시다. 그럼 아래와 같이 결과가 표시됩니다.

$${1000\over7}=1.429 \cdot 10^2$$

이제 자주 쓰이는 계산기 기종별로 표시 자릿수를 설정하는 방법을 알아보겠습니다.

카시오 계산기

카시오 계산기는 수의 표시 형식으로 위에서 설명한 Fix, Sci에 더하여 Norm이라는 표기 형식도 지원합니다. Norm 표기 형식은 Norm 1과 Norm 2로 구분됩니다. Norm 표기 형식을 이해하기 위해 fx-570ES PLUS 2 설명서에서 관련 내용을 가져오면 아래와 같습니다.

Norm: 2개의 설정(Norm 1, Norm 2) 중 하나를 선택하면 지수 형식으로 표시되는 결과의 범위가 결정됩니다. 지정된 범위 외에서는 결과가 지수 형식 이외로 표시됩니다.
Norm 1: $10^{-2}>|x|, |x| \geq 10^{10}$
Norm 2: $10^{-9}>|x|, |x| \geq 10^{10}$

Norm 1이 기본값이지만 이 상태에서는 1÷200 같은 간단한 계산도 0.005가 아니라 5×10^-3처럼 읽기 힘들게 표시됩니다. 따라서 Norm 2를 설정하는 것을 권장합니다.

아래에서는 각 카시오 계산기 기종별로 표시 자릿수 설정을 변경하는 방법을 알아봅니다.

fx-570ES PLUS 2

SHIFT MODE 를 누르고 Fix, Sci, Norm 중 하나를 선택할 수 있습니다.

Sci 0은 유효숫자 0자리가 아닌 10자리를 표시합니다.

fx-570EX

SHIFT MENU 3 을 누르고 Fix, Sci, Norm 중 하나를 선택할 수 있습니다.

Sci 0은 유효숫자 0자리가 아닌 10자리를 표시합니다.

fx-9860G3

fx-9860G, fx-9860G2, fx-9860G2 SD, fx-9860G3, fx-9750G3 등의 계산기에 전부 적용되는 내용입니다.

SHIFT MENU 를 누르고 Display 부분에서 Fix, Sci, Norm 중 하나를 선택할 수 있습니다.

Sci 0은 유효숫자 0자리가 아닌 10자리를 표시합니다.

Norm 1과 Norm 2 사이를 전환하려면 F3 을 누르면 됩니다.

F4 를 누르면 공학 표기법을 켜고 끌 수 있습니다. 계산 결과에 SI 접두어를 붙여 줍니다. 지원하는 SI 접두어는 E, P, T, G, M, k, m, μ, n, p, f입니다. 이것은 Fix, Sci, Norm 형식과 별개로 적용됩니다. Fix와 공학 표기법을 동시에 적용했다면 Fix/E, Sci와 공학 표기법을 동시에 적용했다면 Sci/E, Norm과 공학 표기법을 동시에 적용했다면 Norm/E로 표시하는 식입니다.

TI-Nspire CX CAS

TI-Nspire CX, TI-Nspire CX CAS, TI-Nspire CX II, TI-Nspire CX II CAS 계산기에 모두 적용되는 내용입니다.

doc 7 2 를 눌러 Document Settings로 들어갑니다.

Display Digits에서 표시 자릿수를 설정할 수 있습니다. 설정은 Float, Float 1~12, Fix 0~12로 구분되어 있습니다.

Fix는 위에서 설명한 것과 동일합니다. 계산 결과의 소수점 아래 자릿수의 개수를 결정합니다.

Float는 카시오 계산기의 Sci와 비슷한 기능을 합니다. 계산 결과의 유효숫자 자릿수를 결정합니다.