Tabla de contenido
Publicidad
4 Número de dígitos y precisión
Número de dígitos
Modo estándar
Cuando el cuadro de marcación junto a "Decimal Calculation" en el cuadro de diálogo de
formato básico no está seleccionado, se aplica lo siguiente.
• Para los valores enteros, se almacenan hasta 611 dígitos en la memoria.
• Los valores decimales de hasta 15 dígitos se convierten al formato fraccionario y se
guardan en la memoria. Cuando una expresión matemática no se puede convertir al
formato fraccionario, el resultado se muestra en el formato decimal.
• Los valores almacenados en la memoria se muestran tal como son, independientemente
de la configuración de [Number Format] (Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) (excepto
cuando se muestra un valor decimal).
Modo decimal
Cuando el cuadro de marcación junto a "Decimal Calculation" en el cuadro de diálogo de
formato básico está seleccionado, se aplica lo siguiente.
• Los valores almacenados en la memoria de respuesta (Ans) y los valores asignados a
las variables tienen el mismo número de dígitos que el definido para los valores del modo
estándar.
• Los valores se muestran de acuerdo a la configuración de [Number Format] (Normal 1,
Normal 2, Fix 0 – 9, Sci 0 – 9).
• Los valores que aparecen se redondean al número apropiado de lugares decimales.
• Algunas aplicaciones almacenan los valores usando una mantisa de hasta 15 dígitos y un
exponente de 3 dígitos.
Precisión
• Los cálculos internos se realizan usando 15 dígitos.
• El error para una única expresión numérica (error de cálculo del modo decimal) es 1 en el
décimo dígito. En el caso del formato exponencial, el error de cálculo es ±1 en el dígito
menos significativo. Tenga en cuenta que al realizar cálculos el error se acumula. El error
también es acumulativo para los cálculos consecutivos internos realizados por: ^(
n
r
n
r
P
,
C
, etc.
• El error es acumulativo y tiende a ser mayor cerca de un punto(s) singular(es) y de un
punto(s) de inflexión de una función, y cerca de cero. Con sinh(
punto de inflexión está en
es pobre.
-4-1
Número de dígitos y precisión
x
= 0. Alrededor del mismo, el error es acumulativo y la precisión
20060301
x
y
x
),
x
x
) y tanh(
), por ejemplo, el
x
,
!,
Publicidad
Tabla de contenido
