Rangos de cálculo, cantidad de
dígitos y precisión
El rango de cálculo, la cantidad de dígitos utilizados para cálculos internos
y la precisión de cálculo depende del tipo de cálculo que realice.
Rango de cálculo y precisión
Rango de cálculo
Cantidad de dígitos
usados
internamente en el
cálculo
Precisión
Rangos de introducción de cálculo de funciones y
precisión
Funciones
sen x
cos x
tan x
-1
-1
sen
x , cos
x
-99
±1 × 10
a ±9,999999999 × 10
15 dígitos
En general, ±1 en el 10.º dígito para un cálculo
individual. La precisión con visualización
exponencial es ±1 sobre el dígito menos
significativo. En el caso de cálculos consecutivos
los errores se propagan acumulativamente.
Rango de introducción
0 ≦ | x | < 9 × 10
Deg
0 ≦ | x | < 157079632,7
Rad
0 ≦ | x | < 1 × 10
Gra
El mismo que sen x , excepto cuando |
Deg
x | = (2 n -1) × 90.
El mismo que sen x , excepto cuando |
Rad
x | = (2 n -1) × π /2.
El mismo que sen x , excepto cuando |
Gra
x | = (2 n -1) × 100.
0 ≦ | x | ≦ 1
72
99
o 0
9
10