←
°' "
y
x
x
√y
b
a
/
c
RanInt#(a, b)
GCD(a, b)
LCM(a, b)
• La precisión es esencialmente la misma que se describe en "Rango de
cálculo y precisión" anteriormente.
• Los tipos de función x
consecutivos que pueden producir una acumulación de los errores
producidos en cada cálculo.
• El error es acumulativo y tiende a ser grande en la vecindad del punto
singular de la función y punto de inflexión.
• El rango de los resultados de cálculos que pueden visualizarse en
formato π cuando se utiliza el display Natural es |x| < 10
embargo, que por un error de cálculo interno puede que sea imposible
ver algunos resultados en formato π. Esto también puede hacer que los
resultados del cálculo que deberían aparecer en formato decimal
aparezcan en formato π.
100
|x| < 1 × 10
0°0'0" ≦ |x| ≦ 9999999°59'59"
Conversiones Decimal ↔ Sexagesimal
100
x > 0: -1 × 10
< ylogx < 100
x = 0: y > 0
m
x < 0: y = n,
(m, n son enteros)
2n + 1
Sin embargo: -1 × 10
100
y > 0: x ≠ 0, -1 × 10
y = 0: x > 0
2n + 1
y < 0: x = 2n+1,
m
Sin embargo: -1 × 10
La cantidad total de dígitos de esta expresión,
incluyendo la parte entera, el numerador y el
denominador debe ser de hasta 10 dígitos
(incluyendo el símbolo separador).
a < b; |a|, |b| < 1 × 10
10
|a|, |b| < 1 × 10
(a, b son enteros)
0 ≦ a, b < 1 × 10
10
(a, b son enteros)
3
x
y
,
√y,
√ , x!, nPr, nCr requieren cálculos internos
103
100
< ylog |x| < 100
< 1/x logy < 100
(m ≠ 0; m, n son enteros)
100
< 1/x log |y| < 100
10
10
; b - a < 1 × 10
6
. Observe, sin