k Rangos de cálculo, número de dígitos y precisión
En la siguiente tabla se muestra el rango general de cálculo (rango de entrada y de salida), el
número de dígitos usados para los cálculos internos y la precisión de los cálculos.
Rango de cálculo
Cálculo interno
Precisión
A Rangos de entrada y precisión de los cálculos con funciones
Funciones
DEG
x
sin
RAD
GRA
DEG
x
cos
RAD
GRA
DEG
x
tan
RAD
GRA
–1
x
sin
0 < |
–1
x
cos
–1
x
0 < |
tan
x
sinh
0 < |
x
cosh
–1
x
0 < |
sinh
–1
x
1 <
cosh
x
0 < |
tanh
–1
0 < |
x
tanh
x
x
log
/ln
0 <
x
10
–9,999999999×10
x
e
–9,999999999×10
'
x
0 <
2
x
|
x
x
|
x
1/
3
'
x
|
x
–99
±1×10
a ±9,999999999×10
15 dígitos
En general, ±1 en el 10mo. dígito para un cálculo simple. Error en el
caso de que el resultado de un cálculo en formato exponencial sea
±1 en el dígito menos signifi cativo de la mantisa. Los errores son
acumulativos en el caso de cálculos consecutivos.
0 < |
x
| < 9×10
0 < |
x
| < 157079632,7
0 < |
x
| < 1×10
0 < |
x
| < 9×10
0 < |
x
| < 157079632,7
0 < |
x
| < 1×10
x
, salvo que |
Igual que sin
x
, salvo que |
Igual que sin
x
, salvo que |
Igual que sin
x
| < 1
x
| < 9,999999999×10
x
| < 230,2585092
x
| < 4,999999999×10
x
< 4,999999999×10
x
| < 9,999999999×10
| < 9,999999999×10
x
x
< 9,999999999×10
99
<
x
99
<
x
100
x
< 1×10
50
| < 1×10
100
| < 1×10
x
G 0
;
100
| < 1×10
99
Rango de entrada
9
10
9
10
x
| = (2
n
x
| = (2
n
x
| = (2
n
99
99
99
99
–1
99
< 99,99999999
< 230,2585092
S-135
y 0
–1)×90.
π
–1)×
/2.
–1)×100.