Especificaciones generales
Precisión
Definimos la medición de tolerancias en términos de e.c. (escala completa), ltr.
(lectura) y dgt. (dígito), con los siguientes significados:
(Valor máximo mostrado)
e.c.
Suele indicar el valor máximo de visualización. En el instrumento, esto indica
el rango en uso actualmente.
(Lectura o valor mostrado)
ltr.
El valor que se está midiendo actualmente y que se indica en el instrumento
de medición.
(Resolución)
La unidad más pequeña que se puede mostrar en un instrumento de medición
dgt.
digital, es decir, el valor de entrada que hace que la pantalla digital muestre
un "1".
Ejemplos de cálculo de la precisión
(Se redondean los números posteriores a los dígitos de visualización).
1
Precisión de la medición de resistencia
Condiciones de medición: 300 m
medición = 100 m
Precisión de la medición de resistencia: ±( 0,020% ltr. + 0,020%e.c. )
± ( 0,020% × 100 m
2
Precisión de la medición de temperatura
Condiciones de medición: Sensor de temperatura del termistor, temperatura de medición =
35°C
Precisión de la medición de temperatura: ±( 0,55 + 0,012 × | t -30| )
± ( 0,55 + 0,012 × | 35 - 30 |)= ± 0,61°C
3
Precisión adicional de corrección de temperatura
Condiciones de medición: Cociente de temperatura = 3930 ppm/°C, temperatura de refer-
encia = 20°C, temperatura de medición = 35°C
Error adicional
−
, 0
1
+
, 0
393
94
Ω
rango, corriente Lo (100 mA), OVC OFF, objetivo de
Ω
Ω
+ 0,020% × 300 m
α
−
t
α
1
+
×
(
t
t
0
393
%
×
(
±
, 0
) 6
%
×
(
35
±
0
6 ,
−
20
)
Ω
t
∆
[ ]
0
×
100
%
+
∆
t
−
t
)
0
0,222%rdg −
+
=
.
Ω
) = ± 0,08 m
0,223%rdg.