Rango Y Exactitud De Medición; Rango Y Precisión De Medición - Hioki IM3536 Manual De Instrucciones

10.6 Rango y exactitud de medición
Ecuación de exactitud de medición: La exactitud de medición se calcula con la siguiente ecuación.
Exactitud de la medición = exactitud básica × C × D × E × F × G
C: Coeficiente de nivel, D: Coeficiente de la velocidad de medición, E: Coeficiente del largo del cable,
F: Coeficiente de polarización de CC, G: Coeficiente de temperatura (coeficiente de temperatura
de funcionamiento)
Exactitud básica
La exactitud se calcula en función de los coeficientes A y B del diagrama de exactitud básica que
se muestra a continuación.
(Consulte "Cálculo de ejemplo de la exactitud básica" (p. 209)).
Rango de 1 kΩ o superior
Rango de 100 Ω o inferior
Zx: Impedancia de la muestra de medición
A y B: Se indica en el diagrama de exactitud básica. (Valor superior: exactitud Z [% ltr.]; valor inferior: exactitud θ [°])
• De 1,0001 MHz a 5 MHz, exactitud básica múltiple por (fm [MHz]+3)/4.
• De 5,0001 MHz a 8 MHz, exactitud básica múltiple por fm [MHz]/2.
*: "fm" es la frecuencia de medición [MHz].
Diagrama de exactitud básica
Para la
Rango
medición de CC
Ω
100 M A=1 B=1
Ω
10 M A=0,5 B=0,3
Ω
1 M A=0,2 B=0,1
Ω
100 k A=0,1 B=0,01
Ω
10 k A=0,1 B=0,01
Ω
1 k A=0,1 B=0,01
Ω
100 A=0,1 B=0,02
Ω
10 A=0,2 B=0,15
Ω
1 A=0,3 B=0,3
Ω
100 m A=1 B=1
Exactitud básica =
Exactitud básica =
Para la medición de CA (frecuencia de medición)
De 4 Hz a 99,99 Hz De 100,00 Hz a 999,99 Hz De 1,0000 kHz a 10,000 kHz
A=6 B=5 A=3
A=5 B=3 A=2
A=0,8 B=1 A=0,5
A=0,8 B=0,5 A=0,4
A=0,4 B=0,08 A=0,3
A=0,3 B=0,08 A=0,2
A=0,3 B=0,03 A=0,2
A=0,2 B=0,02 A=0,1
A=0,3 B=0,03 A=0,2
A=0,2 B=0,02 A=0,1
A=0,3 B=0,02 A=0,2
A=0,2 B=0,01 A=0,1
A=0,3 B=0,02 A=0,2
A=0,2 B=0,01 A=0,15
A=0,5 B=0,1 A=0,4
A=0,3 B=0,1 A=0,3
A=1,5 B=1 A=1
A=0,8 B=0,5 A=0,5
A=8 B=8 A=5
A=5 B=4 A=3
Rango y exactitud de medición
Zx
 10 × 
± A B + × − 1
 
Rango
 
 Rango 
± A B + × − 1
 
Zx
 
*
*
B=2 A=3
B=2 A=2
B=0,3 A=0,5
B=0,2 A=0,4
B=0,05 A=0,3
B=0,02 A=0,2
B=0,03 A=0,2
B=0,02 A=0,1
B=0,02 A=0,05
B=0,02 A=0,03
B=0,02 A=0,2
B=0,02 A=0,1
B=0,02 A=0,2
B=0,01 A=0,1
B=0,05 A=0,4
B=0,03 A=0,3
B=0,3 A=1
B=0,2 A=0,5
B=4 A=3
B=2 A=2
B=2
B=2
B=0,3
B=0,2
B=0,05
B=0,02
B=0,03
B=0,02
B=0,02
B=0,02
B=0,02
10
B=0,02
B=0,02
B=0,01
B=0,05
B=0,03
B=0,3
B=0,2
B=2
B=1,5
207