k Gamas de cálculo, número de dígitos y precisión
La gama de cálculo, número de dígitos usados para el cálculo interno, y la precisión
del cálculo dependen en el tipo de cálculo que está realizando.
Gama de cálculo y precisión
Gama de cálculo
Número de dígitos para
el cálculo interno
Precisión
Precisión y gamas de ingreso en el cálculo con funciones
Funciones
x
sen
DEG
RAD
GRA
x
cos
DEG
RAD
GRA
x
tan
DEG
RAD
GRA
sen –
1
x
0
cos –
1
x
tan –
1
x
0
x
senh
0
x
cosh
senh –
1
x
0
cosh –
1
x
1
x
tanh
0
tanh –
1
x
0
x
x
log
/ln
0
x
10
–9,999999999 10
x
e
–9,999999999 10
x
'
0
x
2
x
x
x
1/
3
x
x
'
x
!
0
0
n
r
P
1
0
n
r
C
1
x
x
y
Pol(
,
)
x
±1 × 10
15 dígitos
En general, ±1 en el 10mo. dígito para un
cálculo simple. Precisión para la presentación
exponencial es ±1 en el dígito menos
significante. Los errores son acumulativos en
el caso de cálculos consecutivos.
x
0
9 10
x
0
157079632,7
x
0
1 10
x
0
9 10
x
0
157079632,7
x
0
1 10
Similar a sen
Similar a sen
Similar a sen
x
1
x
9,999999999 10
x
230,2585092
x
4,999999999 10
x
4,999999999 10
x
9,999999999 10
x
9,999999999 10
x
9,999999999 10
1
100
x
10
1
50
10
1
100
x
G 0
10
;
1
100
10
x
x
69 (
es un entero)
1 10
10
n
, 0
)!} 1 10
n
n
r
{
!/(
–
1 10
10
n
, 0
! 1 10
100
n
r
!/
y
,
9,999999999 10
2
y
2
+
9,999999999 10
–99
a ±9,999999999 × 10
Gama de ingreso
9
10
9
10
x
, excepto cuando
x
, excepto cuando
x
, excepto cuando
99
99
99
99
–1
99
99
x
99,99999999
99
x
230,2585092
r
n
n
r
(
,
son enteros)
100
r
n
n
r
(
,
son enteros)
)! 1 10
n
n
r
o 1
!/(
–
99
99
S-67
99
o 0
x
n
= (2
–1) 90.
–1) π/2.
x
n
= (2
x
n
= (2
–1) 100.
100