Machine learning: conceptos, aplicaciones y límites

Objetivo didáctico

Al terminar esta ficha serás capaz de analizar críticamente cómo aprende, generaliza y se evalúa un modelo de machine learning, así como argumentar cuándo su uso puede ser justificable —y cuándo no— al interpretar sistemas aplicados en salud, finanzas, justicia y otras decisiones que afectan la vida de las personas.

Introducción

Machine learning —aprendizaje automático— no significa que una computadora comprenda el mundo del mismo modo que una persona. Significa que un sistema ajusta parámetros a partir de datos para realizar determinadas tareas: clasificar imágenes, estimar probabilidades, detectar anomalías, agrupar observaciones o predecir valores futuros. La diferencia parece sutil, pero es decisiva. El modelo aprende regularidades estadísticas; nosotros decidimos qué significan, si son relevantes y qué consecuencias estamos dispuestos a aceptar.

El campo tiene una historia anterior al auge actual de la inteligencia artificial. En 1959, Arthur L. Samuel publicó su trabajo sobre un programa capaz de mejorar jugando damas y ayudó a consolidar el término machine learning. En 1962, después de miles de partidas de autoentrenamiento, su sistema llegó a vencer al jugador Robert Nealey. La idea que cambió el paradigma no fue simplemente programar más reglas, sino permitir que el desempeño mejorara utilizando experiencia registrada.

Más de seis décadas después, la escala es radicalmente diferente. Los modelos intervienen en imágenes médicas, detección de fraude, recomendaciones, evaluación de riesgo y reconocimiento biométrico. Sin embargo, la pregunta fundamental sigue siendo la misma: ¿qué aprendió realmente el sistema de los datos que recibió? Un modelo puede descubrir una señal útil, memorizar peculiaridades del conjunto de entrenamiento, aprovechar una variable que funciona como sustituto de otra o dejar de funcionar cuando cambia la población.

Esta distinción explica por qué el nivel avanzado exige mirar más allá del algoritmo. Primero se distinguirá entre aprendizaje supervisado y no supervisado; después se examinará la tensión entre ajuste y generalización; se analizarán métricas de evaluación y umbrales de decisión; se estudiarán aplicaciones concretas en salud, finanzas y justicia; y finalmente se discutirán límites que ningún aumento de precisión elimina automáticamente: sesgo, cambio de distribución, opacidad, causalidad, responsabilidad y conflicto entre distintas ideas de equidad.

Desarrollo del tema

Aprendizaje supervisado y no supervisado: dos preguntas distintas sobre los datos

En aprendizaje supervisado, cada ejemplo de entrenamiento incluye información sobre el resultado que queremos aprender. Si existen 50,000 operaciones bancarias marcadas previamente como fraude o no fraude, el modelo intenta aprender una relación entre características de las operaciones y esas etiquetas. Si la salida es una categoría hablamos de clasificación; si es un valor continuo —por ejemplo, estimar demanda eléctrica en megawatts— hablamos de regresión.

El aprendizaje no supervisado comienza sin una variable objetivo equivalente. En lugar de preguntar “¿qué etiqueta corresponde a este caso?”, pregunta “¿qué estructura existe en estos datos?”. Algoritmos de clustering pueden encontrar grupos según similitudes; técnicas como análisis de componentes principales pueden representar muchas variables mediante menos dimensiones. Pero el resultado necesita interpretación humana. Que un algoritmo separe clientes en cuatro grupos no demuestra que existan cuatro “tipos naturales” de personas: demuestra que, bajo una métrica, variables y parámetros concretos, emergieron cuatro agrupamientos.

Imagine datos sobre movilidad de una ciudad mexicana. Con aprendizaje supervisado podría utilizar registros históricos para estimar si un trayecto superará 45 minutos. Con aprendizaje no supervisado podría explorar patrones de viajes y detectar grupos con perfiles similares. La primera tarea tiene un objetivo conocido; la segunda busca estructura. En ambos casos las decisiones previas —qué medir, cómo representar un trayecto, qué periodos incluir— condicionan profundamente lo que el modelo puede descubrir.

Las bibliotecas actuales reflejan esta diversidad. La documentación de scikit-learn 1.9 organiza por separado modelos supervisados, clustering, reducción de dimensionalidad, detección de anomalías y herramientas de evaluación. La clasificación “supervisado/no supervisado” es útil, pero no convierte automáticamente un problema social en un problema algorítmico bien definido.

Overfitting y generalización: aprender la regla o memorizar el examen

Un modelo no se entrena para explicar perfectamente el pasado, sino para funcionar razonablemente ante observaciones que aún no conoce. Aquí aparece la generalización: la capacidad de transferir lo aprendido a datos nuevos procedentes de una situación suficientemente semejante. Cuando el modelo se ajusta incluso al ruido, errores y peculiaridades accidentales de los datos de entrenamiento, ocurre overfitting o sobreajuste.

La analogía es un estudiante que recibe 100 preguntas de práctica. Si memoriza literalmente las respuestas y obtiene 100 de 100 al repetirlas, su desempeño parece perfecto. Pero si el examen real plantea los mismos principios con situaciones distintas y obtiene 55 de 100, el entrenamiento no produjo una competencia transferible. El modelo sobreajustado hace algo parecido: baja mucho su error sobre casos conocidos sin haber aprendido una estructura suficientemente estable.

Por eso se separan datos para entrenamiento y evaluación. También se utilizan procedimientos como validación cruzada, regularización, reducción de complejidad y curvas de aprendizaje. La documentación actual de scikit-learn muestra, por ejemplo, cómo un polinomio de grado 15 puede ajustarse casi perfectamente a muestras ruidosas y al mismo tiempo generalizar peor que un modelo más simple. Más complejidad no garantiza mejor predicción.

Existe además un problema más difícil: distribution shift. Un modelo puede generalizar bien dentro de la distribución usada para evaluarlo y aun así deteriorarse si cambia el mundo. Un predictor entrenado con hábitos de movilidad de 2024 puede comportarse distinto después de nuevas rutas de transporte, obras, cambios demográficos o transformaciones económicas. No basta preguntar “¿funcionó en el test?”; también hay que preguntar “¿el futuro se parece al test?”.

Evaluación de modelos: una cifra nunca responde todas las preguntas

Evaluar un modelo significa definir qué cuenta como error antes de celebrar su puntuación. Considere una enfermedad presente en solo 1 de cada 100 personas. Un sistema que responda siempre “no hay enfermedad” tendría 99% de exactitud, aunque sería clínicamente inútil para detectar casos. Este ejemplo muestra por qué accuracy puede ser engañosa cuando las clases están desequilibradas.

Para clasificación conviene distinguir al menos cuatro resultados: verdaderos positivos, falsos positivos, verdaderos negativos y falsos negativos. La precisión pregunta qué proporción de las predicciones positivas era realmente positiva; el recall o sensibilidad pregunta qué proporción de los positivos reales fue detectada. Ninguna métrica es universalmente superior: su importancia depende del costo concreto de cada error.

Imagine un filtro para detectar operaciones financieras fraudulentas. Si el umbral es muy sensible puede atrapar más fraude, pero también bloquear compras legítimas. Si es demasiado permisivo, reduce las molestias pero deja pasar más fraude. El modelo genera una puntuación; el umbral transforma esa puntuación en acción. Esa elección pertenece al diseño del sistema y expresa prioridades que no están contenidas automáticamente en los datos.

La evaluación avanzada también examina calibración —si una predicción de 20% ocurre aproximadamente dos veces de cada diez en casos comparables—, métricas por subgrupos, estabilidad temporal y desempeño después del despliegue. Un promedio global puede esconder diferencias importantes. Además, el conjunto de prueba debe permanecer verdaderamente fuera del entrenamiento y de la selección de hiperparámetros; de otro modo, el proceso puede terminar ajustándose indirectamente al examen que pretendía ser independiente.

Salud, finanzas y justicia: cuando una predicción modifica oportunidades reales

En salud, machine learning puede apoyar tareas como análisis de imágenes, detección de señales y estimación de riesgos. La lista de dispositivos médicos habilitados por la FDA incluye decisiones regulatorias tan recientes como 30 de marzo de 2026 y numerosos productos de radiología y cardiología que incorporan IA. La propia FDA advierte que su listado no es exhaustivo. La OMS, por su parte, insiste en que la adopción debe ser segura, ética, equitativa y acompañada de gobernanza. Para América Latina la lección es clara: una autorización o desempeño obtenido en otra población no demuestra automáticamente que el sistema sea apropiado para hospitales, equipos y distribuciones epidemiológicas locales.

En finanzas, modelos predictivos pueden detectar fraude o estimar riesgo crediticio utilizando más variables que un método tradicional. Esto puede abrir oportunidades para personas con historiales financieros escasos, pero también introducir variables sustitutas de características sensibles o producir decisiones difíciles de explicar. En 2023, el Consumer Financial Protection Bureau estadounidense reiteró que utilizar algoritmos complejos no elimina la obligación de comunicar razones específicas cuando se niega crédito. Aunque esa norma pertenece a otra jurisdicción, plantea una pregunta transferible a cualquier sistema: ¿puede una persona afectada comprender y cuestionar una decisión?

En justicia, las consecuencias pueden involucrar vigilancia, libertad o trato policial. El estudio de reconocimiento facial publicado por NIST en 2019 mostró que las tasas de falsos positivos de muchos algoritmos variaban sustancialmente entre grupos demográficos. La institución subrayó además que los efectos dependían del algoritmo concreto y que algunos sistemas mostraban diferencias mucho menores. La conclusión rigurosa no es “todo algoritmo discrimina”, sino algo más exigente: el rendimiento agregado no permite inferir igualdad de errores entre poblaciones.

Límites actuales: lo que una mejor puntuación no puede resolver por sí sola

Un modelo predictivo identifica asociaciones entre variables; por sí solo no demuestra causalidad. Si un sistema descubre que determinada conducta está asociada con mayor morosidad, no significa que modificar esa conducta vaya a reducir el riesgo. La diferencia entre correlación predictiva y causa se vuelve crucial cuando la salida deja de ser una recomendación y empieza a justificar intervenciones sobre personas.

Tampoco existe un único concepto matemático de equidad que pueda satisfacerse siempre. Investigaciones de Alexandra Chouldechova y de Jon Kleinberg, Sendhil Mullainathan y Manish Raghavan mostraron en 2016–2017 que, cuando las tasas base difieren entre grupos, ciertos criterios intuitivos de fairness pueden resultar matemáticamente incompatibles. Un modelo puede estar bien calibrado entre grupos y, simultáneamente, presentar diferentes tasas de falsos positivos o falsos negativos. Elegir qué criterio priorizar es una decisión normativa, no una operación que el algoritmo resuelva de manera neutral.

A ello se agregan problemas de calidad de datos, privacidad, seguridad, interpretabilidad, supervisión humana y cambio de contexto. El AI Risk Management Framework 1.0 de NIST, publicado en 2023 y actualmente en proceso de revisión, no reduce la confiabilidad a precisión: incorpora validez, fiabilidad, seguridad, resiliencia, transparencia, explicabilidad, privacidad y gestión del sesgo perjudicial. Eso transforma la pregunta “¿qué tan preciso es?” en “¿qué propiedades necesita este sistema para ser aceptable en este uso concreto?”.

Finalmente, ningún modelo decide qué objetivo merece optimizarse. Un hospital puede optimizar detección temprana, tiempos de atención o costos; un banco puede optimizar riesgo de impago; una institución pública puede optimizar detección de casos. Cada objetivo deja algo fuera. Machine learning puede ejecutar con enorme eficacia la métrica elegida y seguir resolviendo la pregunta equivocada. En sistemas de alto impacto, definir el problema es parte del problema.

Conclusión

Comprender machine learning exige abandonar dos simplificaciones opuestas. La primera afirma que un algoritmo es objetivo porque utiliza matemáticas; la segunda sostiene que todo modelo es necesariamente inútil o injusto. Ninguna resiste un análisis serio. Los modelos pueden extraer regularidades difíciles de detectar manualmente y producir beneficios sustantivos, pero su comportamiento depende de datos, objetivos, métricas, umbrales, poblaciones y decisiones humanas.

El aprendizaje supervisado permite estimar resultados a partir de ejemplos etiquetados; el no supervisado explora estructuras sin una respuesta previamente definida. En ambos casos, el verdadero reto es generalizar. El overfitting muestra que memorizar el pasado no equivale a comprender una regularidad estable. La evaluación, a su vez, demuestra que ninguna cifra aislada —ni siquiera una accuracy elevada— sustituye el análisis de errores y consecuencias.

Cuando un modelo entra en salud, finanzas o justicia, el problema deja de ser exclusivamente computacional. Importa quién soporta los falsos positivos, quién queda fuera de los datos, qué explicaciones pueden ofrecerse, cómo se impugna una decisión y quién conserva la responsabilidad. El futuro del machine learning no depende solo de modelos capaces de predecir más, sino de sociedades capaces de decidir mejor qué predicciones merecen convertirse en acciones.

Referencias

• Chouldechova, A. (2017). Fair prediction with disparate impact: A study of bias in recidivism prediction instruments. Big Data, 5(2), 153–163. https://doi.org/10.1089/big.2016.0047
• Consumer Financial Protection Bureau. (2023). CFPB issues guidance on credit denials by lenders using artificial intelligence.
• Food and Drug Administration. (2026). Artificial intelligence-enabled medical devices.
• Grother, P., Ngan, M., & Hanaoka, K. (2019). Face Recognition Vendor Test Part 3: Demographic Effects. NISTIR 8280. National Institute of Standards and Technology.
• Hastie, T., Tibshirani, R., & Friedman, J. (2009). The elements of statistical learning (2nd ed.). Springer.
• Kleinberg, J., Mullainathan, S., & Raghavan, M. (2017). Inherent trade-offs in the fair determination of risk scores. Proceedings of Innovations in Theoretical Computer Science.
• Samuel, A. L. (1959). Some studies in machine learning using the game of checkers. IBM Journal of Research and Development, 3(3), 210–229.
• Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1
• World Health Organization. (2024). Artificial intelligence for health.

Actividad de aprendizaje autónoma

Proyecto: redacte un dictamen ciudadano sobre un sistema de machine learning. Elija una aplicación real o una propuesta públicamente descrita en salud, finanzas, seguridad, justicia, educación, transporte o servicios públicos. No necesita acceder al código del sistema: el objetivo es analizar críticamente qué evidencia sería necesaria antes de confiar en sus resultados.

1. Identifique qué predice, clasifica o agrupa el sistema y qué decisión humana puede verse afectada por su salida.
2. Determine si el problema corresponde principalmente a aprendizaje supervisado, no supervisado u otra combinación. Justifique la clasificación.
3. Identifique qué población proporcionó los datos y para qué población pretende utilizarse el modelo. Señale al menos un posible cambio de distribución.
4. Defina qué falso positivo y qué falso negativo produciría el sistema. Explique cuál considera más grave y por qué.
5. Proponga al menos tres métricas de evaluación. Una debe medir desempeño predictivo; otra debe permitir inspeccionar errores por grupos o contextos; la tercera puede abordar calibración, estabilidad, seguridad, explicabilidad u otra propiedad relevante.
6. Investigue qué información pública existe sobre validación externa, auditoría, supervisión humana, privacidad y mecanismos de impugnación.
7. Redacte un dictamen de 250 a 400 palabras con una conclusión explícita: “uso justificable”, “uso justificable bajo condiciones” o “evidencia insuficiente”.

Evidencia de logro: entregue una página que incluya la identificación del sistema, su matriz de falsos positivos y falsos negativos, las métricas propuestas, las fuentes consultadas y el dictamen argumentado.

Criterio de éxito: el análisis será sólido si distingue claramente capacidad predictiva de causalidad; no utiliza accuracy como única evidencia; identifica al menos un riesgo de generalización; considera distribución de errores y consecuencias; y formula condiciones concretas bajo las cuales el sistema debería utilizarse, modificarse o rechazarse.

Desafío avanzado: defienda durante un párrafo la conclusión contraria a la que originalmente adoptó. Si recomendó usar el modelo, construya el mejor argumento posible para no usarlo; si recomendó rechazarlo, argumente qué nueva evidencia podría justificar su adopción. Después explique qué supuesto fue más difícil cuestionar.

Reflexión final: ¿en qué momento de su análisis dejó de preguntar “qué tan inteligente es el modelo” y empezó a preguntar “qué tipo de decisión estamos construyendo alrededor de él”?