Rangos De Cálculo, Cantidad De Dígitos Y Precisión; Rangos De Entrada De Cálculo De Funciones Y Precisión - Casio fx-100MS Guia Del Usuario

19: km/h ' m/s
22: g ' oz
25: atm ' Pa
28: Pa ' mmHg
' Pa
2
31: kgf/cm
34: J ' kgf
•
37: °F ' °C
40: cal ' J
Los datos de fórmulas de conversión se basan en el documento "NIST
Special Publication 811 (2008)".
Nota: El comando J'cal realiza conversión de valores a 15°C de
temperatura.
Rangos de cálculo, cantidad de
dígitos y precisión
Rango del cálculo y precisión
Rangos de cálculo
Cantidad de dígitos
usados internamente
en el cálculo
Precisión
Rangos de entrada de cálculo de funciones y
precisión
Funciones
x
sen
x
cos
x
tan
20: m/s ' km/h
23: lb ' kg
26: Pa ' atm
29: hp ' kW
32: Pa ' kgf/cm
m 35: lbf/in
38: °C ' °F
±1 × 10
15 dígitos
En general, ±1 en el 10.° dígito para
un cálculo individual. La precisión con
visualización exponencial es ±1 sobre
el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.
|
x
DEG
0
|
x
RAD
0
|
x
GRA
0
El mismo que sen
DEG
n
(2 −1)
El mismo que sen
RAD
n
(2 −1)
El mismo que sen
GRA
n
(2 −1)
2
' kPa
2
a ±9,999999999 × 10
–99
Rango de entrada
| 9 × 10
9
|
157079632,7
| 1 × 10
10
x
, excepto cuando
90.
x
, excepto cuando
π/2.
x
, excepto cuando
100.
S-33
21: oz ' g
24: kg ' lb
27: mmHg ' Pa
30: kW ' hp
m ' J
33: kgf
•
36: kPa ' lbf/in
39: J ' cal
99
o 0
x
x
x
2
=
=
=