Catto / Mapa de Temas · Probabilidad y Estadística 2do nivel
Probabilidad y Estadística · 72 h · Contenido 6 de 6

Análisis de regresión

Cuatro conjuntos de datos pueden tener la misma recta, el mismo R² y la misma media, y no parecerse en nada. Eso es el cuarteto de Anscombe, y es la razón por la que un gráfico de residuos no es opcional.

Mínimos cuadrados Calibración Residuos Anscombe

01La recta que mejor pasa

Medir la salida de un sensor a varias temperaturas conocidas da una nube de puntos, no una recta. La regresión busca la recta que mejor los representa, y «mejor» tiene una definición precisa: la que minimiza la suma de los cuadrados de las distancias verticales.

\[ \hat{y} = b_0 + b_1 x \qquad b_1 = \frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2} \qquad b_0 = \bar{y} - b_1\bar{x} \] Se minimizan las distancias verticales porque se supone que el error está en \( y \) y que \( x \) se conoce bien. Esa asimetría importa: la recta de \( y \) sobre \( x \) no es la misma que la de \( x \) sobre \( y \).

En electrónica esto es la calibración: se aplican valores conocidos, se anota lo que el instrumento lee y se ajusta la recta que convierte una cosa en la otra. La ordenada al origen es el offset y la pendiente es la ganancia, que son exactamente los dos parámetros que una hoja de datos especifica.

02Cuán bien ajusta

\[ R^2 = 1 - \frac{\sum (y_i-\hat{y}_i)^2}{\sum (y_i-\bar{y})^2} \qquad\qquad r = \frac{S_{xy}}{\sqrt{S_{xx}S_{yy}}} \] El coeficiente de determinación \( R^2 \) es la fracción de la variabilidad de \( y \) que la recta explica. El de correlación \( r \) es su raíz con signo, y mide la asociación lineal entre las dos variables: vale 1 o −1 con puntos perfectamente alineados y 0 sin relación lineal.
Un \( R^2 \) alto no garantiza nada

Es el error más extendido de toda la estadística aplicada. Un \( R^2 \) de 0,95 puede venir de una relación que no es lineal, de un solo punto que arrastra la recta o de una nube sin ninguna estructura más un valor alejado. El cuarteto de Anscombe, que está en el laboratorio de abajo, son cuatro conjuntos con la misma media, el mismo desvío, la misma recta y el mismo \( R^2 \), y con formas que no se parecen en nada. Es el mismo argumento del histograma de la primera unidad: hay que mirar los datos.

Laboratorio · regresión y residuos

Recorré los cuatro conjuntos de Anscombe y compará sus estadísticos: son idénticos. El gráfico de residuos de abajo es lo que los delata, y es lo primero que hay que mirar en cualquier ajuste.

03Los residuos son el diagnóstico

El residuo de cada punto es lo que la recta no explicó: \( e_i = y_i - \hat{y}_i \). Graficarlos contra \( x \) es la herramienta de diagnóstico más útil que hay, porque si el modelo lineal es correcto no debe quedar ninguna estructura en ellos: solo ruido parejo alrededor de cero.

Los residuos muestranSignificaQué hacer
Nube sin forma alrededor de ceroEl modelo lineal va bienNada
Una curvaLa relación no es linealAgregar un término cuadrático o transformar
Un embudo que se abreLa dispersión crece con \( x \)Ponderar, o trabajar con el logaritmo
Un punto muy alejadoAtípico o punto influyenteInvestigarlo antes de decidir
Correlación no es causalidad, y extrapolar es inventar

Dos cosas distintas y las dos frecuentes. Que dos variables correlacionen no dice que una cause la otra: puede haber una tercera detrás, o pura coincidencia. Y una recta ajustada entre 0 y 100 °C no dice nada sobre lo que pasa a 300 °C: fuera del rango medido, el modelo no tiene respaldo en ningún dato. Extrapolar una calibración es una de las maneras más comunes de introducir un error grande con mucha confianza.

04En el laboratorio

Actividad 1 · Calibrar un sensor

Medir la salida de un termistor acondicionado a ocho temperaturas conocidas. Ajustar la recta, obtener ganancia y offset, y calcular \( R^2 \). Graficar los residuos y decidir si el modelo lineal alcanza.

Actividad 2 · El punto influyente

Repetir el ajuste de la actividad anterior agregando un punto medido con un error grosero. Comparar pendiente, ordenada y \( R^2 \) con y sin él, y evaluar cuánto lo corrió un solo dato.

Actividad 3 · Linealizar

Tomar la curva no lineal de un termistor y graficar \( \ln R \) contra \( 1/T \). Ajustar la recta sobre las variables transformadas, obtener la constante \( B \) y verificar que los residuos ahora no tienen estructura.

05Errores frecuentes

  • Confiar en un \( R^2 \) alto sin mirar los datos. El cuarteto de Anscombe existe para eso.
  • No graficar los residuos. Es el diagnóstico más barato y el más informativo.
  • Extrapolar fuera del rango medido. Ahí el modelo no tiene ningún dato que lo sostenga.
  • Leer causalidad en una correlación. Puede haber una tercera variable detrás.
  • Olvidar que la recta de \( y \) sobre \( x \) no es la de \( x \) sobre \( y \). Se minimizan distancias verticales.
  • Agregar términos hasta que \( R^2 \) suba. Con suficientes parámetros se ajusta cualquier cosa, incluido el ruido.

06Autoevaluación

¿Qué minimiza el método de mínimos cuadrados?

La suma de los cuadrados de las distancias verticales entre los puntos y la recta.

¿Qué representa \( R^2 \)?

La fracción de la variabilidad de \( y \) que el modelo explica.

¿Qué es el cuarteto de Anscombe?

Cuatro conjuntos con la misma recta, el mismo \( R^2 \) y la misma media, y formas completamente distintas. La prueba de que hay que graficar.

¿Qué debe mostrar un gráfico de residuos correcto?

Nada: ruido parejo alrededor de cero, sin estructura.

¿Qué son la ganancia y el offset de una calibración?

La pendiente y la ordenada al origen de la recta ajustada.

¿Por qué no hay que extrapolar?

Porque fuera del rango medido ningún dato respalda el modelo, y el error puede ser grande sin que nada lo advierta.

07Para ampliar

  • Douglas C. Montgomery y George C. Runger. Probabilidad y estadística aplicadas a la ingeniería. 7.ª ed., Wiley, 2018. Los capítulos 11 y 12: regresión lineal simple y múltiple, con inferencia sobre los coeficientes.
  • Francis J. Anscombe. Graphs in Statistical Analysis. The American Statistician, vol. 27, 1973. Cuatro páginas donde aparece el cuarteto por primera vez. Sigue siendo el mejor argumento a favor de graficar.
  • John Fox. Applied Regression Analysis and Generalized Linear Models. 3.ª ed., SAGE, 2015. Diagnóstico de residuos, puntos influyentes y qué hacer cuando el modelo lineal no alcanza.
Desarrollo del contenido «Análisis de regresión» de Probabilidad y Estadística (segundo nivel), según el diseño curricular de Ingeniería Electrónica, Plan 2023 — Ordenanza N° 1849 del Consejo Superior de la UTN. Volver al Mapa de Temas · catto.ar