Aglient OLED U1253B Guía Del Usuario Y Servicios página 207

Tabla 7-1 Precisión CC
Función
[6][7]
Resistencia
Notas para los requisitos de resistencia:
a 2% fuera de rango en todos los rangos salvo CC 1000 V.
3 La precisión de 500 Ω y 5 kΩ se especifica tras aplicar la función Null , la cual se utiliza para restar la resistencia de los
cables de prueba y el efecto térmico.
4 Para el rango de 50 MΩ/500 MΩ, la HR. se especifica para el < 60%.
5 La precisión se especifica para < 50nS y tras aplicar la función Null con cables de prueba abiertos.
6 Estas especificaciones están diseñadas para ohms de dos cables utilizando la función Matemática Null. Sin la función
Matemática null, agregue el error adicional de 0,2 Ω.
7 Voltaje abierto máximo: <+4,2 V.
Guía del usuario y servicios del U1253B
± (% de medición + número de LSD) (continuación)
[a]
Rango
500,00 Ω [3]
[3]
5,0000 kΩ
50,000 kΩ
500,00 kΩ
5,0000 MΩ
[4]
50,000 MΩ
[4]
500,00 MΩ
[5]
500,00 nS
Resolución Corriente de prueba o
tensión de carga
0,01 Ω
0,0001 kΩ
0,001 kΩ
0,01 kΩ
0,0001 MΩ 375 nA // 10 MΩ
0,001 MΩ 187 nA // 10 MΩ
0,01 MΩ 187 nA // 10 MΩ
0,01 nS
Especificaciones
Precisión
1,04 mA 0,05 + 10
416 µA 0,05 + 5
41,2 µA 0,05 + 5
4,12 µA 0,05 + 5
0,15 + 5
1,00 + 5
3,00+5 < 200 M
8,00+5 > 200 M
187 nA
7
1+10
185