Tabla de contenido
Publicidad
Se producirá un error de estrato de registro (Stack ERROR) cuando el cálculo
que está realizando ocasiona que la capacidad de cualquiera de los estratos de
registro sea excedida.
k Gamas de cálculo, número de dígitos y precisión
La gama de cálculo, número de dígitos usados para el cálculo interno, y la precisión
del cálculo dependen en el tipo de cálculo que está realizando.
Gama de cálculo y precisión
Gama de cálculo
Número de dígitos para
el cálculo interno
Precisión
Precisión y gamas de ingreso en el cálculo con funciones
Funciones
x
sen
DEG
RAD
GRA
x
cos
DEG
RAD
GRA
x
tan
DEG
RAD
GRA
sen –
1
x
0
cos –
1
x
tan –
1
x
0
x
senh
0
x
cosh
senh –
1
x
0
cosh –
1
x
1
x
tanh
0
tanh –
1
x
0
x
x
log
/ln
0
x
10
–9,999999999 10
x
e
–9,999999999 10
x
'
0
x
2
x
x
x
1/
3
x
x
'
x
!
0
0
n
r
P
1
±1 × 10
15 dígitos
En general, ±1 en el 10mo. dígito para un
cálculo simple. Precisión para la presentación
exponencial es ±1 en el dígito menos
significante. Los errores son acumulativos en
el caso de cálculos consecutivos.
x
0
9 10
x
0
157079632,7
x
0
1 10
x
0
9 10
x
0
157079632,7
x
0
1 10
Similar a sen
Similar a sen
Similar a sen
x
1
x
9,999999999 10
x
230,2585092
x
4,999999999 10
x
4,999999999 10
x
9,999999999 10
x
9,999999999 10
x
9,999999999 10
1
100
x
10
1
50
10
1
100
x
G 0
10
;
1
100
10
x
x
69 (
es un entero)
1 10
10
n
, 0
)!} 1 10
n
n
r
{
!/(
–
a ±9,999999999 × 10
–99
Gama de ingreso
9
10
9
10
x
, excepto cuando
x
, excepto cuando
x
, excepto cuando
99
99
99
99
–1
99
99
x
99,99999999
99
x
230,2585092
r
n
n
r
(
,
son enteros)
100
S-50
99
o 0
x
n
= (2
–1) 90.
–1) π/2.
x
n
= (2
x
n
= (2
–1) 100.
Publicidad
Tabla de contenido
