Tabla de contenido
Publicidad
k k k k k Número de lugares decimales, número de dígitos significantes, gama
de display normal
• Aun después de especificar el número de lugares decimales o el número de dígitos
significantes, los cálculos internos se realizan usando una mantisa de 15 dígitos, y los
valores visualizados se almacenan con una mantisa de 10 dígitos. Utilice Rnd del menú
de cálculos numéricos (NUM) (página 2-4-1) para redondear por defecto el valor
visualizado a los ajustes de número de lugares decimales y dígitos significantes.
• El número de lugares decimales (Fix) y dígitos significantes (Sci) normalmente
permanece en efecto hasta que los cambia o hasta que cambia el ajuste de gama de
display normal (Norm).
100 ÷ 6 = 16,66666666...
Ejemplo
Condición
4 lugares decimales
5 dígitos significantes
Cancela la especificación
1
*
Los valores visualizados se redondean por
defecto al lugar especificado.
2-1-2
Cálculos básicos
[SET UP]-
Operación
!m(SET UP) f (o c 12 veces)
1(Fix)ewJw
!m(SET UP) f (o c 12 veces)
2(Sci)fwJw
!m(SET UP) f (o c 12 veces)
3(Norm)Jw
20050401
[Display]
-[Fix] / [Sci] / [Norm]
Presentación
100/6w
16.66666667
1.6667
16.66666667
*
1
16.6667
*
1
+01
E
Publicidad
Tabla de contenido
