Fórmula Utilizada Para El Cálculo Estadístico - Mettler Toledo AX Instrucciones De Manejo

Capítulo 6: La aplicación "Pesar"
62
6.4.7 Fórmula utilizada para el cálculo estadístico
Cálculo de la media y de la desviación típica
Denominaciones
x := Valores de midida individuales de una serie de medida de n valores de midida
i
x := Media y
s desviación típica de los valores de medida
Válido para la media
1 n
x x
i
n
i 1
La fórmula, conocida por los manuales, para el cálculo de la desviación típica s
1
2
s x x
i
n 1
no es apropiada para el cálculo numérico. El motivo es que, en series de medidas con desviaciones muy pequeñas entre los distintos
valores individuales, el cuadrado de la diferencia (valor individual-media) puede producir la cancelación. Además, si se aplicase
esta fórmula, se tendría que guardar cada valor de medida individual antes de poder determinar la desviación típica al final.
La siguiente fórmula es matemáticamente equivalente aunque numéricamente más estable. Mediante la reformulación apropiada,
puede deducirse de (1) y (2):
1 1
n n
2
s x
i
n 1 n
i 1 i 1
Para el cálculo de la media y de la desviación típica al utilizar esta fórmula se deben guardar solamente n ,
Desviación típica
Mediante el escalado de los valores de medida, se puede mejorar aún más la estabilidad numérica:
x : x X
Con donde
i i 0
de una serie de medida, se deduce análogamente:
1 n 1
2
s x
i
n 1 n
i 1
Media
Análogamente se calcula la media:
1 n
x X x
0 i
n
i 1
Desviación típica relativa
La desviación típica relativa se calcula según la fórmula:
s
s 100
rel
x
Número de cifras de los resultados
La media y la desviación típica se muestran e imprimen, en principio, con un decimal más que los correspondientes valores de
medida individuales. Al interpretar los resultados, hay que tener en cuenta que este decimal adicional no posee valor informativo
en series de medida pequeñas (inferiores a aprox. 10 valores de medida).
Lo mismo se puede aplicar a los datos de porcentajes (como en la desviación típica relativa) que siempre se presenta con dos
decimales (por ejemplo, 13,45 por ciento). También aquí el valor informativo de los decimales depende de la magnitud de los datos
de salida.
2
x
i
X es (según el caso de aplicación) el primer valor de medida de una serie de medida o el valor teórico
0
2
n
x
i
i 1
Porcentaje
(1)
(2)
i 1 ... n
x y
2
x .
i i