Tabla de contenido
Publicidad
Número de dígitos y precisión
Número de dígitos
Modo estándar
Lo siguiente se aplica cuando no se selecciona el
cuadro de marcación junto al elemento "Decimal
Calculation" en el cuadro de diálogo Formato básico.
• Se almacena hasta 611 dígitos en la memoria para
valores enteros.
• Valores decimales hasta 15 dígitos se convierten en
formato fraccionario y se guardan en la memoria.
Cuando una expresión matemática no se puede
convertir en formato fraccionario, los resultados se
muestran en formato decimal.
• Los valores almacenados en la memoria se
muestran como están, independientemente de
cómo se configuren las opciones [Number Format]
(Normal 1, Normal 2, Fix 0 a Fix 9, Sci 0 a Sci 9)
(excepto cuando se muestra un valor decimal).
Precisión
• Los cálculos internos se realizan empleando 15 dígitos.
• El error para una expresión matemática simple (error de cálculo del modo decimal) es de ±1 el el décimo
dígito. En el caso de visualización exponencial, el error de cálculo es de ±1 en el último dígito significativo.
Tenga en cuenta que realizar cálculos consecutivos hacen que el error sea acumulativo. El error también es
acumulativo para los cálculos internos consecutivos realizados por: ^(
• El error es acumulativo y tiende a ser mayor en la cercanía de puntos singulares y de inflexión de una
función, y cerca de cero. Con sinh(
En esta cercanía, el error es acumulativo y la precisión es mala.
Modo decimal
Lo siguiente se aplica cuando se selecciona el cuadro
de marcación junto al elemento "Decimal Calculation"
en el cuadro de diálogo Formato básico.
• Los valores almacenados en la memoria Ans y
• Los valores se muestran según cómo se configuren
• Los valores visualizados se redondearán a la
• Algunas aplicaciones almacenan valores usando
x
x
) y tanh(
), por ejemplo, el punto de inflexión se produce cuando
los valores asignados a variables tienen el mismo
número de dígitos como los definidos para los
valores del modo estándar.
las opciones [Number Format] (Normal 1, Normal 2,
Fix 0 a Fix 9, Sci 0 a Sci 9).
cantidad adecuada de lugares decimales.
una mantisa hasta 15 dígitos de largo y 3 dígitos de
exponente.
x
',
x
y
x
),
n
r
n
r
!,
P
,
C
, etc.
x
Apéndice
= 0.
323
Publicidad
Tabla de contenido
