Tabla de contenido
Publicidad
Cuando no es posible una simplificación mayor, aparece "Simplified"
momentáneamente en el display y luego se muestra el resultado del
cálculo.
Cuando se especifica un divisor de 3: 18
Rangos de cálculo, cantidad de
dígitos y precisión
El rango del cálculo, la cantidad de dígitos usados internamente para el
cálculo y la precisión del cálculo dependen del tipo de cálculo que realice.
Rango del cálculo y precisión
Rangos de cálculo
Cantidad de dígitos usados
internamente en el cálculo
Precisión
Rangos de entrada de cálculo de funciones y precisión
Funciones
x
10
'
x
x
2
x
–1
°' "
–9,999999999 × 10
1 × 10
x
0
|
|
1 × 10
x
50
|
|
1 × 10
x
100
;
|
|,
1 × 10
a
b
c
,
El segundo valor mostrado está sujeto a un error de ±1
en la segunda posición decimal.
Factor
= 6
21
7
18 ' 21 =l 3 =
o 18 ' 21 el 3 =
±1 × 10
a ±9,999999999 × 10
–99
15 dígitos
En general, ± 1 en el 10mo dígito para
un cálculo individual. La precisión con
visualización exponencial es ± 1 sobre
el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.
Rango de entrada
x
99
99,99999999
100
G 0
x
b
c
100
; 0
,
S-14
l=
F=3,
l=
l=
99
25
30
5
F=5,
6
5
6
6
F=3,
7
6
F=3,
7
o 0
Publicidad
Tabla de contenido
