Publicidad
Ejemplo:
((-))2
-2
((-))2
Rangos de cálculo, número de
dígitos y precisión
El rango de cálculo, el número de dígitos utilizados para el cálculo
interno y la precisión del cálculo dependen del tipo de cálculo que esté
realizando.
Rango de cálculo y precisión
Rango de cálculo
Número de dígitos para
cálculo interno
Precisión
Rangos de entrada y precisión del cálculo de
funciones
Funciones
senx
cosx
2
= -4
2
(-2)
= 4
-99
±1 × 10
23 dígitos
En general, ±1 en el décimo dígito para
un solo cálculo. La precisión para la
visualización exponencial es de ±1 en
el dígito menos significativo. En el caso
de cálculos consecutivos, los errores son
acumulativos.
Range de entrada
Grado sexag (D)
Radián
Grado cent (G)
113
a ±9,999999999 × 10
9
0 ≤ |x| < 9 × 10
0 ≤ |x| < 157079632,7
10
0 ≤ |x| < 1 × 10
99
o 0
Publicidad
