Publicidad
19: km/h
m/s
22: g
oz
25: atm
Pa
28: Pa
mmHg
31: kgf/cm
2
34: J
kgf
•
37: °F
°C
40: cal
J
Los datos de fórmulas de conversión se basan en el documento "NIST
Special Publication 811 (2008)".
Nota: El comando J cal realiza conversión de valores a 15°C de
temperatura.
Rangos de cálculo, cantidad de
dígitos y precisión
Rango del cálculo y precisión
Rangos de cálculo
Cantidad de dígitos
usados internamente
en el cálculo
Precisión
Rangos de entrada de cálculo de funciones y
precisión
20: m/s
23: lb
26: Pa
29: hp
Pa
32: Pa
m
35: lbf/in
38: °C
1
15 dígitos
En general, 1 en el 10.° dígito para
un cálculo individual. La precisión con
visualización exponencial es 1 sobre
el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.
km/h
kg
atm
kW
kgf/cm
2
kPa
2
°F
10
a 9,999999999
–99
S-33
21: oz
g
24: kg
lb
27: mmHg
Pa
30: kW
hp
33: kgf
m
J
•
36: kPa
lbf/in
39: J
cal
10
o 0
99
2
Publicidad
