Inteligencia artificial: cómo funciona y qué implica

Objetivo didáctico

Al terminar esta ficha serás capaz de analizar cómo funciona un sistema básico de inteligencia artificial y evaluar sus datos, posibles sesgos, aplicaciones y riesgos cuando uses reconocimiento de voz o imágenes, recibas recomendaciones automatizadas o encuentres decisiones asistidas por algoritmos en tu vida cotidiana.

Introducción

La expresión inteligencia artificial reúne técnicas muy diferentes. Algunas funcionan a partir de reglas explícitas escritas por personas; otras aprenden regularidades a partir de grandes conjuntos de datos. Incluso existen sistemas híbridos que combinan ambos enfoques. Por eso decir simplemente “esto usa IA” explica tan poco como decir que un vehículo “usa un motor”: todavía falta saber qué tipo, con qué combustible funciona y para qué tarea fue construido.

Esta distinción importa hoy porque sistemas automatizados intervienen en actividades cada vez más comunes. El teléfono puede desbloquearse con un rostro, una aplicación puede transcribir una nota de voz, una plataforma recomienda videos y una institución puede utilizar modelos para detectar fraude, priorizar solicitudes o identificar patrones en grandes volúmenes de información. En todos esos casos hay decisiones técnicas escondidas detrás de una interfaz aparentemente sencilla.

La definición actualizada de la OCDE describe un sistema de IA como un sistema basado en máquinas que, a partir de las entradas que recibe, infiere cómo producir resultados —como predicciones, contenido, recomendaciones o decisiones— capaces de influir en entornos físicos o virtuales. Esa palabra, infiere, resulta central: el sistema genera una salida aplicando un modelo o conjunto de reglas, no porque posea necesariamente comprensión humana.

En esta ficha recorrerás cinco preguntas: ¿en qué se diferencia el aprendizaje automático de la IA simbólica?, ¿qué significa entrenar con datos?, ¿cómo se reconocen imágenes y voz?, ¿de dónde surgen los sesgos? y ¿qué criterios permiten distinguir una aplicación útil de una aplicación riesgosa?

Desarrollo del tema

Machine learning e IA simbólica: aprender patrones no es lo mismo que seguir reglas

En la IA simbólica, una parte importante del conocimiento se representa de manera explícita. Un sistema podría contener reglas como: “SI la temperatura supera cierto límite Y existe humo, ENTONCES activar una alerta”. El diseñador define conceptos, condiciones y relaciones. Este enfoque fue dominante durante décadas porque permite seguir con relativa claridad el camino entre una regla y una conclusión.

El machine learning o aprendizaje automático cambia la lógica. En vez de escribir todas las reglas, se proporcionan datos y un método de aprendizaje para que el sistema encuentre regularidades útiles. Un filtro de correo no necesita una regla humana para cada posible mensaje no deseado: puede aprender patrones a partir de miles o millones de ejemplos previamente clasificados.

La historia de la IA comenzó a tomar forma como campo en el taller de Dartmouth de 1956, asociado a investigadores como John McCarthy, Marvin Minsky, Claude Shannon y Nathaniel Rochester. Durante décadas convivieron distintos enfoques: representar conocimiento mediante símbolos y reglas, aprender a partir de ejemplos o combinar ambos. La oposición entre “simbólico” y “aprendizaje” sirve para comprender tendencias, pero los sistemas reales pueden ser híbridos.

En tu vida cotidiana esa diferencia afecta lo que puedes exigirle al sistema. Si una regla explícita rechaza una operación porque supera un límite, puede ser sencillo explicar el motivo. Si un modelo aprendido asigna una probabilidad de fraude usando cientos de variables, reconstruir la razón exacta puede resultar mucho más difícil.

Entrenamiento con datos: el modelo aprende de ejemplos, no de magia

Entrenar un modelo significa ajustar sus parámetros a partir de datos para que produzca mejores resultados en una tarea. Imagina que quieres distinguir fotografías de perros y gatos. Primero necesitas ejemplos; después, durante el entrenamiento, el sistema compara sus predicciones con la respuesta esperada y modifica internamente numerosos valores para reducir sus errores.

Una parte de los datos suele reservarse para comprobar qué ocurre con ejemplos que el modelo no utilizó directamente para aprender. Esta separación es importante porque un sistema puede memorizar demasiado bien los casos de entrenamiento y aun así funcionar mal cuando recibe información nueva. Ese problema se conoce como sobreajuste.

Un hito de la visión por computadora fue ImageNet, presentado académicamente en 2009. Su trabajo inicial describió una base con aproximadamente 3.2 millones de imágenes anotadas en más de 5,000 categorías; el proyecto después creció mucho más. La escala de conjuntos como este ayudó a demostrar que disponer de muchos ejemplos bien etiquetados podía transformar lo que los modelos lograban aprender.

Piensa en una aplicación mexicana que intenta distinguir diferentes productos agrícolas a partir de fotografías. Si casi todas sus imágenes de entrenamiento fueron tomadas con buena iluminación, cámaras recientes y cultivos de una sola región, el sistema puede fallar cuando se utiliza con teléfonos sencillos, sombras intensas o variedades locales que apenas aparecieron en los datos.

Reconocimiento de imágenes y voz: convertir señales en patrones

Una fotografía es, para una computadora, una enorme organización de valores numéricos que representan píxeles. Una grabación de voz también puede convertirse en datos que describen cómo cambia una señal sonora a lo largo del tiempo. Los modelos de reconocimiento aprenden regularidades dentro de esas representaciones y calculan qué salida resulta más probable.

En 2012, un sistema de redes neuronales conocido como AlexNet produjo un salto importante en la competencia ImageNet al reducir notablemente el error frente a otros métodos de aquel momento. El resultado ayudó a acelerar la adopción del aprendizaje profundo en visión por computadora. Desde entonces, arquitecturas más avanzadas han permitido identificar objetos, caras, escritura, sonidos y estructuras mucho más complejas.

Reconocer no equivale a percibir como una persona. Si un modelo clasifica una foto como “perro”, no necesariamente posee una experiencia o concepto humano de lo que significa vivir con un perro. Ha aprendido relaciones estadísticas útiles entre datos y etiquetas. De modo semejante, un sistema puede transcribir la frase “nos vemos mañana” sin comprender tus planes para mañana.

Esta diferencia importa cada vez que dictas un mensaje, buscas fotografías mediante palabras o utilizas subtítulos automáticos. Si la grabación tiene ruido, el acento estuvo poco representado en los datos o aparece vocabulario local —por ejemplo, nombres de municipios, apellidos indígenas o expresiones regionales mexicanas— la tasa de error puede cambiar.

Sesgos en IA: cuando los datos trasladan desigualdades al modelo

Un sesgo aparece cuando un sistema produce resultados sistemáticamente diferentes o perjudiciales debido a cómo se definió el problema, cómo se recolectaron los datos, qué variables se utilizaron o cómo se evaluó el modelo. No hace falta que un programador escriba una regla discriminatoria para que aparezca una desigualdad.

Imagina un modelo para seleccionar candidatos a cierto tipo de empleo. Si fue entrenado con decisiones históricas de contratación de una organización donde durante años casi todos los puestos técnicos fueron ocupados por hombres, el sistema puede aprender correlaciones que reproduzcan parte de ese patrón, aunque la variable “sexo” se elimine directamente. Otras variables pueden funcionar como aproximaciones indirectas.

El sesgo también puede surgir por falta de representación. En 2019, el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) analizó 189 algoritmos de reconocimiento facial de 99 desarrolladores. En varias pruebas encontró diferencias demográficas importantes: para ciertos algoritmos, las tasas de falsos positivos en algunos grupos asiáticos y afroamericanos podían ser entre 10 y 100 veces mayores que para rostros caucásicos. El propio estudio también mostró que el desempeño variaba mucho entre algoritmos.

La lección no es que “toda IA discrimina”, sino que un promedio de precisión puede esconder diferencias relevantes. Si una aplicación falla 2 veces de cada 100 para un grupo y 20 veces para otro, decir simplemente que “funciona bien” elimina información decisiva. Por eso la evaluación debe preguntar para quién, en qué condiciones y con qué consecuencias funciona.

Aplicaciones y riesgos: no todas las decisiones merecen el mismo grado de confianza

La IA puede aportar valor cuando procesa información a una escala difícil para una persona: detectar patrones en imágenes, traducir, organizar documentos, identificar anomalías, sugerir rutas o apoyar búsquedas. Pero una misma tasa de error tiene consecuencias distintas según el contexto. Confundir una canción recomendada produce una molestia pequeña; confundir la identidad de una persona, una operación financiera o una señal médica puede causar un daño mucho mayor.

Por eso el riesgo no depende solo del modelo. También depende de para qué se utiliza, quién puede resultar afectado y qué posibilidad existe de corregir el error. El marco de gestión de riesgos de IA de NIST, publicado en 2023, destaca características como validez, seguridad, transparencia, explicabilidad, protección de la privacidad y manejo de sesgos perjudiciales.

UNESCO adoptó en 2021 su Recomendación sobre la Ética de la Inteligencia Artificial, subrayando que estos sistemas pueden profundizar discriminación, desigualdad y brechas si no existen medidas de protección. En América Latina este punto es especialmente relevante cuando los conjuntos de datos provienen principalmente de otros idiomas, regiones, acentos, hábitos de consumo o instituciones.

Una regla útil para el ciudadano es ajustar la supervisión al costo del error. Cuanto más pueda afectar una decisión tus derechos, dinero, seguridad, reputación o acceso a oportunidades, menos razonable es aceptar una salida automatizada sin posibilidad de explicación, revisión o intervención humana.

Conclusión

La inteligencia artificial deja de parecer magia cuando separas sus piezas. Algunos sistemas siguen conocimiento representado mediante reglas; otros aprenden patrones a partir de datos; muchos combinan ambos enfoques. En todos los casos, la calidad de la salida depende de las decisiones que hubo antes: qué problema se definió, qué datos se utilizaron, qué se consideró un error y cómo se comprobó el desempeño.

Esta comprensión también cambia la pregunta que hacemos frente a una IA. En lugar de limitarte a “¿funciona?”, puedes preguntar “¿con qué aprendió?”, “¿para quién funciona mejor?”, “¿qué ocurre cuando se equivoca?” y “¿puedo cuestionar la decisión?”. Esas preguntas serán cada vez más importantes a medida que la IA participe no solo en recomendaciones triviales, sino también en decisiones sobre educación, trabajo, crédito, seguridad y servicios públicos.

Actividad de aprendizaje autónoma

Producto final: auditoría ciudadana de una aplicación de inteligencia artificial. Elige un sistema que realmente uses o encuentres en tu vida: reconocimiento facial del teléfono, transcripción de voz, recomendaciones de contenido, chatbot, filtro de fotografías, detector de fraude, sistema de navegación u otro ejemplo identificable.

1. Describe qué entrada recibe el sistema y qué salida produce.
2. Explica si parece apoyarse principalmente en reglas, aprendizaje automático o una combinación de ambos. Señala qué evidencia te lleva a esa conclusión.
3. Propón qué tipos de datos habría necesitado para aprender o funcionar.
4. Diseña tres pruebas: un caso común, un caso poco frecuente y un caso que podría revelar una limitación.
5. Registra qué ocurre en cada prueba sin incluir información personal sensible.
6. Identifica al menos una posible fuente de sesgo: representación insuficiente, datos históricos, definición de etiquetas, contexto regional u otra.
7. Describe el daño posible si el sistema se equivoca. Distingue entre molestia menor y consecuencia relevante sobre dinero, derechos, reputación, seguridad u oportunidades.
8. Propón una regla concreta de supervisión: cuándo aceptarías la salida automáticamente y cuándo exigirías verificación humana.

Reflexión final: después de analizar el sistema, ¿cambió más tu confianza en la IA o cambió la forma en que decides cuándo confiar?