0% encontró este documento útil (0 votos)
88 vistas15 páginasRe4 Ut1
Unidad de trabajo sobre el tratamiento estadístico de datos.
Cargado por
Isabel Rodríguez DíazDerechos de autor
© © All Rights Reserved
Nos tomamos en serio los derechos de los contenidos. Si sospechas que se trata de tu contenido, reclámalo aquí.
Formatos disponibles
Descarga como PDF o lee en línea desde Scribd
0% encontró este documento útil (0 votos)
88 vistas15 páginasRe4 Ut1
Unidad de trabajo sobre el tratamiento estadístico de datos.
Cargado por
Isabel Rodríguez DíazDerechos de autor
© © All Rights Reserved
Nos tomamos en serio los derechos de los contenidos. Si sospechas que se trata de tu contenido, reclámalo aquí.
Formatos disponibles
Descarga como PDF o lee en línea desde Scribd
Mapa conceptual
TRATAMIENTO ESTADISTICO DE DATOS
Sistemas de unidades }
EXPRESION DE DATOS
EXPERIMENTALES
Citras significativas }
Errores aleatori
cas
de eliminacién
de valores
anémalos
METODOS DE ANALISIS
Comparaci6n
de procedii
juste de rectas de regresién }
—_—_
Ecuacién lineal. Ecuacién con la forma y = a - x + b, donde a y b son dos constantes.
La representacién grafica de x frente a y es una linea recta.
Funcién de densidad de probabilidad. Funcién donde la probabilidad de que una
variable tome un determinado valor es igual al rea bajo la funcién en ese intervalo.
Media aritmética. De un conjunto finito de valores, es el resultado de la suma de
todos los valores dividido entre el ntimero de valores.
Poblacién, En estadistica, conjunto de todos los valores sobre los que se realiza la
medida.
Ppm. Unidad de concentracién que indica partes por millén o mg/l.
Lovancauy von Ci 1.1. Expresién de datos experimentales
Para que los valores experimentales puedan ser leidos y utilizados por cualquier persona es
necesatio que estén expresados con su unidad correspondiente y con un ntimero determinado
de cifras significativas.
1.1.1. Sistemas de unidades
Una magnitud es una propiedad de la que un cuerpo pose una cierta cantidad , por tanto, se
puede medi. Existen dos tipos de magnitu
© Fundamental: magnitud definida por si misma e independiente de otras. Por ejemplo, la
Tongitud o el tiempo. ;
© Derimdas: se obtienen mediante expresiones matemiticas a partir de magnitudes funda-
mentales, Por ejemplo, la velocidad, que se define como el espacio partido por el tiempo.
‘Medir es la comparaci6n de una cantidad de cierta magnitud con una cantidad fija de la
misma adoptada previamente como unidad de medida.Y la unidad sera la cantidad arbitraria a
Ta que se da un valor unitario.
‘Aunque nuestras unidades son arbitrarias es necesario llegar a acuerdos para que sean utili-
zadas por una inmensa mayoria. Existen diferentes sistemas de unidades como:
Sistema cegesimal (CGS): centimetro (cm), gramo (g), segundo (5)...
Sistema técnico: metro (m), unidad técnica de masa (utm), segundo (:)...
Y Sistema inglés: pulgada (in)/pie (ft), libra (Ib), segundo ()...
¥ Sistema Intemacional (SI): metro (m), kilogramo (kg), segundo ()...
‘Actualmente el Sistema Internacional es el mis aceptado. No obstante, debido a la proce-
dencia muy diversa de instrumentos y equipos que pueden utilizar otros tipos de unidades es
necesario conocer 0 saber buscar las relaciones entre los diferentes conjuntos de unidades. Estas
relaciones se pueden encontrar en libros como el Handbook of Chemistry and Physics.
1.1.2. Cifras significativas
El resultado de una determinacién experimental es el valor final que se obtiene de upa deter
minada magnitud después de aplicar un proceso de medida. La obtencién de este resultado
Puede implicar la realizacién de célculos o la toma de decisiones a partir de los datos obtenidos
experimentalmente, por ejemplo, la extrapolacién o el descarte de un valor, etc.
Cuando se da un valor, se han de tener en cuenta estos tres puntos:
* El valor o resultado siempre debe ir acompajiado de su unidad (siempre que tenga y no
sea un valor adimensional).
CapituLo 1
Lovaricauy vu Ui * Se debe indicar el tratamiento matemitico re
llegar al resultado final.
© El resultado debe ir expresado con el niimero correcto de cifras que indican la calidad de
a medida, Un resultado se expresa con un conjunto de cifiassignificativas, as que conocemos
con certeza, mis una de dudosa que es fruto del criterio del observador.
izado sobre los datos experimentales para
fone) Si un pHmetro lee un valor de pH de 9,02 esto quiere decir que hoy tres cifras
significativas, dos que no tienen error, el 9 y el O, y una, el 2, que depende del
criterio del observador, en este caso del método que utiliza el pH-metro para
| considerar que una medida es estable y dar un valor de lectura fijo.
L
Un valor como 0,0150V tiene tres cifras significativas, ya que los ceros a la izquierda solo sirven
Para determinar la posicién de la coma. El valor 1,567-10" tiene cuatro ciftas significativas ya que
en Jos miltiplos y submiiliplos los ceros que se derivan del exponente no son significativos,
Si el valor que se va a expresar es el resultado de una serie de operaciones matemiticas, han
de seguirse las siguientes reglas:
¥ Elresultado de una suma o una resta no puede tener mis ciftas significativas decimales que
has del valor menos preciso.
¥ El resultado de un producto o una divisin no puede tener mis cifras significativas que las
del valor menos preciso.
¥ Elresultado de funciones como seno, coseno.... se deja con el mismo niimero de cifras sig-
nificativas que el argumento.
¥ El resultado de un logaritmo decimal tiene las mismas cifras significativas que el nfimero al
que se le aplica el logaritmo.
Por EJEMPLO. cr.
3,141592 + 4,10 = 7,24
1,83764 / 1,4 = 1,3
sen(36,7°) = 0,598
log 2,50 = 0,397
Para redondear el resultado se seguirin los siguientes pasos:
- Realizar los calculos con todas las cifras posibles.
. Determinar el niimero de cifras significativas del resultado final. Este namero dependeri
del niimero de cifras significativas de los datos experimentales.
Redondear al valor mis cercano teniendo en cuenta que si la primera cifra no significativa
es inferior a 5, a diltima cifra conservada no se modifica, mientras que si es igual o superior
a 5,se incrementa una unidad.
Por BIEMPLO
3,141592 con 3 cifras significativas seré 3,14
3,141592 con 4 cifras significativas seré 3,142
Capitulo 1 |
Lovaricauy vvil ui 4.2. Precisién y exactitud de medidas
Cuando se realiza una medida nunca se puede decit que el valor obtenido experimentalmente
coincide perfectamente con el valor real. Todo resultado siempre va acompafiado de un determ
nado error que se define como la diferencia existente entre cl resultado experimental y el valor
real o de referencia. Los errores cometidos en el proceso de medida pueden ser de diferente na-
turaleza y se pueden clasificar como:
© Errores sistemdticos: permanecen constantes al medir la magnitud en las mismas condiciones.
Estos errores tienen su origen en la aplicacién de los procedimientos de medida y en los
equipos y materiales utilizados (por ejemplo, limpieza deficiente de los equipos, mala cali-
bracién...). Los errores sistematicos afectan al resultado en el mismo sentido y, por tanto,
¢s posible corregirlos si se detecta su origen, Una forma de minimizarlos es aplicando
procedimientos estindar de calidad asi como revisando el buen estado de los equipos del
laboratorio. Las auditorias, tanto internas como externas, también permiten detectar des-
viaciones sistematicas en los procesos de medida.
‘© Enrores aleatorios: son aquellos motivados por causas impredecibles y que, por tanto, no se
pueden controlar (por ejemplo, el tiempo de reaccién de una persona para parar un croné-
metro, interferencias radioeléctricas que pueden afectar a los equipos de medida, etc.). Estos
errores afectan al resultado de forma imprevisible y en cualquier sentido. Una forma de mi-
nimizat los errores aleatorios es realizando varias medidas y calculando su media aritmética.
© oO
Preciso yexacto —_—_—Preciso y no exacto
Los errores, tanto los aleatorios como
Ios sistemiticos, afectan de forma negativa
ala precision y exactitud de la medida.
La precsién es el grado de dispersion o
de concordancia del resultado que se ob-
tiene cuando se mide de forma repetitiva
un determinado valor de una variable,
mientras que la exactitud informa del grado
en que la medida realizada se acerca al
valor real o de referencia. La figura 1.1
ayuda a ilustrar la diferencia entre estos dos
conceptos.
Los errores aleatorios contribuyen a re-
ducit la precisién de las medidas, mientras
ue los sistemiéticos disminuyen su exactitud.
© Oo
Exacto y no preciso No exacto y no preciso
Figura 1.1
Precisi6n vs. exactitud
1.3. Distribucién normal de medidas
En ; - : i
Engin Proceso de toma de datos experimentales aunque se sia siempre él mismo procedimiento
¢= Beil comprender que no todos los valores obtenidos serin idénticos debido ala existencia de
aleatorios, como se ha comentado en el apartado anterior. No obstante, habri una serie
de irk . . ;
; valores que se repetirin con mayor frecuencia y los valores obtenidos se distribuirin de una
forma determinada,
Capito 1
Escaneado con C, Lo REGULACION Y CONTROL DEL PROCESO QUIMICO
Si se representa la frecuencia de los datos obtenidlos (el ntimero de veces que han aparecido)
en fancién del valor de la variable se obtiene una funcién de densidad de probabilidad, Este
grifico, generalmente en forma de campana, recibe el nombre de distribucién normal de Gauss,
Esta distribucién se caracteriza por el valor medio (1), que divide la campana en dos mitades
simétricas, y la desviacién estindar (a), parimetro que informa de Ja probabilidad de que apa.
rezcan valores alejados del valor medio ju. Ademés, en una campana de Gauss el 4rea total bajo
Ja curva es igual a la unidad o al 100% si se habla en términos de porcentaje.
A partir de estas premisas la probabili-
dad de que una variable tome un valor
dentro de un determinado intervalo es
igual al érea bajo la curva en ese intervalo.
En la figura 1.2 se puede observar que la
probabilidad de encontrar un valor entre
ay bes mayor en el caso de la distribucién
representada de color azul. Si la desviacién
estindar aumenta también aumentari la
probabilidad de que aparezcan valores ale-
Jados del valor medio y la curva ser mis
aplanada. Mientras que si el valor de o dis Figura 1.2
minuye, a probabilidad de encontrar la va~ Campana de Gauss
Tiable cerca de aumenta.
Para ser precisos, en el lenguaje estadistico hay que decir que jt y 0 se utilizan cuando se
habla del total de elementos de una poblacién. Mientras que cuando se habla del valor de un
conjunto finito de valores (lo mas habitual en la toma de medidas analiticas) se utilizarin los
simbolos ¥ y s para el valor medio y la desviacién estindar, respectivamente.
Si se relacionan estos dos tiltimos conceptos con los diferentes tipos de errores se puede
decir que los ertores aleatorios provocan un aumento de la desviacién estindar, s, y por tanto
que la campana de Gauss sea mas aplanada. En cambio, los errores sistemiticos provocan una
mayor separacin entre el valor medio de los datos experimentales, ¥, y el valor real o de refe-
rencia, lo que se traduce en un desplazamiento lateral de la campana de Gauss.
PARA SABER MAS a r
En el siguiente enlace puedes encontrar la tabla de distribucién normal
pificada N(0, 1). Es decir con un volor medio de cero y una distribucién
esténdar de 1.
| hiip:/[Link]/socioles/tabledisribucionnormtipiicade him
1.4. Intervalo de confianza
Se llama intervalo de confianza, para una distribucién formada por un mimero pequeio de v-
Tores,al rango de valores que proviene de sumar y restar a la media aritmética (7) una cantidad
determinada (4, incertidumbre), para conseguir un margen dentro del cual se encuentra el valor
real (i), con un nivel de confianza previamente establecido.
waxta
Escaneado con Ci TRATAMIENTO ESTADISTICO DE DATOS Me |
Los valores extremos, superior ¢ inferior, de este intervalo se llaman limites de confianza:
X¥ — A:limite de confianza inferior
X + A:limite de confianza superior
Si se establece una probabilidad alta de que el valor real esté dentro de este intervalo, el in-
tervalo de confianza seri grande, mientras si la probabilidad es menor el intervalo de confianza
seri pequeiio. Normalmente se establece un nivel de significacién del 5%, que corresponde a la
probabilidad de que el valor real no esté dentro del intervalo calculado,¢s decir l riesgo a equi-
yocarnos que se va a asumir. Este valor corresponde a un nivel de confianza del 95%.
El cilculo de la incertidumbre se realiza con la siguiente formula:
Donde:
s: es la desviacion estindar.
Néel niimero de valores.
t:t de Student. Su valor depende de la probabilidad establecida y de los grados de libertad (n).
En el cuadro 1.1 se puede encontrar su valor.
Cuapro 1.1.
Distribucién de t de Student
reo
La versién completa de la distribucién de Student se puede encontrar
en el siguiente enlace.
[Link] [Link]/mbe/invest
a/t_student/t_student.asp
Crimot oy
Lovaricauy vv Ui REGULACION ¥ CONTROL DEL PROCESO QUIMICO
PARA CALCULAR 2. a | o Tr ee Fae
Determina la densidad de un sélido con su intervalo de confianza a
partir de los siguientes valores experimentales con un nivel de con _
ianza del 95%.
| 0.8380 = 08380 ——0,8380 08370-08375
Mediante la caleuladora se determinan la media aritmética y la
desviacién estandar.
¥ = 0,8378 g/cm?
5,701-10-4
A partir de los valores de la muestra, N = 5, se calculan los gro-
dos de libertad, n = 5-1 = 4, lo que permite determinar el valor
de t = 2,78 en la tabla de la figura 1.3, para un nivel de confianza
del 95% 0 un riesgo 0 nivel de significacién del 5%.
El intervalo de confianza seré:
4. = 0,8378 + 0,0007087... g/cm?
12 = 0,8378 * 0,0007 g/em? (con los cifras signi
tivas correctas)
1.5. Descarte de medidas anémalas
Cuando se realizan medidas de una determinada magnitud generalmente se realiza més de una
(normalmente tres) y se calcula su valor medio. Sin embargo, algunas veces ocurte que uno de
los valores determinados es muy diferente del resto, lo que plantea dudas sobre su validez. Para
determinar si es necesario descartar 0 no, con un cierto grado de fiabilidad, existe una serie de
procedimientos estadisticos.
El criterio Q de Dixon es uno de los test de descarte mis utilizado aplicable a determina-
ciones experimentales con tres 0 mis valores. Se trata de un criterio poco restrictivo, aunque
no es aconsejable utilizarlo para mis de un valor dentro de la misma serie.
Los pasos que se han de seguir son los siguientes:
1. Se ordenan los valores de la serie de mayor a menor.
2. Se calcula el valor del parimetro Q., ,.,,
aleoal
Qansae H,
Cariruto 1 Ll
Lovaiicauy vv f TRATAMIENTO ESTADISTICO DE DATOS: A |
< valor de la serie cuya validez se pone en duda,
valor de la
rie mis proximo al valor dudoso,
valor mis grande de la s
valor mis pequeiio de la serie.
3, Apantir de la determinacién del nivel de significacién se busca en una tabla el valor de re-
ferencia Qasr
Se comparan los valores de Qasists ¥ Qantas!
Si Qaantn® Qainm 8€ Fechaza el valor.
Si Qioasty ~ Qusa S€ ACePEA el valor.
PARA EMI Existe algin valor discrepante en la serie 15,9, 15,3, 15,4, 15,1, 15,28
Se ordena la serie de mayor a menor: 15,9, 15,4, 15,3, 15,2, 15,1 |
El valor sospechoso es 15,9.
Se calcula el valor de Quis
Se selecciona el valor de Q,,.,.4 Para un volor de significacién del 90%.
En este caso, tenemos cinco medidas y, por tanto, Q....., = 0,642.
© Como Qurrint < Qysinny 0,625 < 0,642, se acepia el valor 15,9
como integrante de la serie. i
1.6, Comparacién de procedimientos. Pruebas de significacién
Para comparar dos procedimientos analiticos desde el punto de vista de la precision y la exactitud
existe una serie de test estadisticos. Estos test, partiendo del hecho de que las medidas se ajustan
a una distribucién de Gauss, permiten extraer conclusiones sobre las similitudes o diferencias
en la precision y exactitud de los métodos de anilisis utilizados,
1.6.1. Test F: comparacién de precision entre dos métodos
de analisis
Los pasos que se han de seguir son los siguientes:
1, Secalculan ls desviaciones estindar de los dos métodos que se van a comparar:s,la desviaci6n.
estindar de la serie con mayor desviacién estindar y s, la desviacién estindar de la otra serie.
Carmot
Lovaricauy Lull Ui REGULACION ¥ CONTROL DEL PROCESO QUIMICO
2. A partir de estos valores se calcula el pardmetto F..4.., que siempre seri igual 0 superiog
ala unidad,
2
(Y
3. A continuacién se calcula el nfimero de grados de libertad de cada serie:
m=N-1
n= N,-1
Donde la » mindiscula representa los grados de libertad y la N may(scula el niimero de
medidas de la serie,
4, Se decide el nivel de significacién, es decir la probabilidad de que la decisién tomada sey
correcta, 0 al revés, el riesgo a equivocarnos. Generalmente se trabaja con un nivel de
confianza del 95% 0, dicho de otra forma, con un riesgo del 5%.
5. Se determina en wna tabla el valor F de referencia, Fy,
6. Se comparan los valores de F calculado y F tabulado:
9) Si [Link]> Fase © Puede concluir que los dos métodos no tienen una precisién similar
D) Si Fogass fygna © Puede concluir que el método testado tiene una falta de exactitud,
8) Si fists heats (16,98 > 2,78) podemos decir que el méiodo
utilizado es inexacto con un 95% de nivel de confianza.
1.6.3. Test t de Student: comparacién de exactitud
entre dos métodos de anilisis
ElTest t de Sudent también se puede aplicar para comparar la exactitud de dos métodos de medida
diferentes siempre que tengan desviaciones estindar similares, es decir que tengan la misma prec
1. Se calcula el parimetro f,,..,,, mediante la siguiente expresin:
Lovaricauy vl Ui Donde:
alor medio de las medidas de la s
lor medio de las medidas de la serie 2.
mero de medidas de la serie 1.
mero de medidas de la serie 2.
a: desviaci6n estindar ponderada de las dos series,
grados de libertad de la serie 1.
n,zgrados de libertad de la serie 2.
4: desviacién estindar de la serie 1.
s,:desviacién estindar de la serie 2.
2. A pattir de los grados de libertad, que en este caso seran la suma de los grados de libertad
de las dos series, n,+1,, y del nivel de significacién escogido, se determina en la tabla el
valor f de referencia, fas.
CALCULAR i) ele ti
BRA Se ha determinado la concentracién de etanol en una muestra utilizando
dos cromatégrafos diferentes, uno con un detector FID y otro con un de-
tector TCD. Los resultados obtenidos en porcentaje son:
FID: 80,1, 80,4, 80,2, 80,6, 80,4
TCD: 80,1, 80,2, 80,5, 80,2, 80,7
4Podemos afirmar con un nivel de confianza del 95% que los resulto-
dos obtenidos con los dos cromatégrafos tienen la misma exactitud?
Y¥ Se determina con la calculadora la media y la desviacién estindor de
los valores obtenidos con cada uno de los dos cromatdgrafos,
X, = 80,4; s, = 0,163299316; x, = 80,34 y s, = 0,250998008.
¥ Los grados de libertad sonn, = 5-1=4yn,=5-1=4.
Y Se calcula el valor de [Link]
Dad = >
“Sm, __ [4-0,163299316" +4-0,250998008:
5a = 2 = rE —rvvwwMS_ = 0, 211738832
ny +n, 444
|80,4-80,34]-
=— 20,44
0,211738832
¥ A partir de la suma de los grados de libertad de las dos’series,
1, +n, = 4 + 4 = By del nivel de confianza seleccionado, 95%, s¢
determina en la tabla el valor de taser
fades = 2,31
VY COMO tesstede < fertos (0,44 < 2,31), no podemos decir que existan di-
ferencias significativas en la exactitud de ambos métodos.
Escaneado con C; od REGULACION Y CONTROL DEL PROCESO QUIMICO
3. Se compara los valores de fojociato Y¥ fatutulo!
9) Sib sctto > fat
b) Sig
