Redes sociales: diseño, algoritmos y efectos

Objetivo didáctico

Al terminar esta ficha serás capaz de analizar qué decisiones humanas y valores existen detrás de un sistema de inteligencia artificial, evaluar problemas de transparencia y responsabilidad y reconocer formas regulatorias y ciudadanas de intervenir cuando una tecnología puede afectar derechos u oportunidades.

Introducción

Cuando una aplicación recomienda una canción, el costo de equivocarse suele ser pequeño. Cuando un sistema ayuda a decidir quién recibe un crédito, qué candidato avanza en una contratación, qué contenido se retira o qué persona debe ser revisada con mayor atención, las consecuencias son distintas. La ética tecnológica aparece precisamente cuando las decisiones técnicas comienzan a afectar oportunidades, derechos, seguridad o participación social.

La primera idea importante es que una IA no llega al mundo con objetivos propios. Alguien decide qué problema resolver, qué datos representan ese problema, qué variable debe optimizarse y qué indicador demostrará que el sistema “funciona”. Un algoritmo para seleccionar candidatos podría maximizar la rapidez del proceso, la similitud con empleados anteriores, la permanencia esperada o la diversidad. Cada objetivo empuja el sistema en una dirección diferente.

También existe una cadena de actores. Un modelo puede ser desarrollado por una empresa, integrado por otra, comprado por un gobierno y utilizado finalmente por un funcionario. Si causa daño, la pregunta “¿fue culpa de la IA?” es insuficiente. Hace falta reconstruir quién podía diseñar, probar, supervisar, detener o corregir el sistema.

Organismos internacionales han convertido estas preocupaciones en principios concretos. La OCDE adoptó sus principios de inteligencia artificial en 2019 y los actualizó en 2024; incluyen transparencia, explicabilidad, robustez y rendición de cuentas. UNESCO, por su parte, adoptó en 2021 una recomendación global sobre ética de la IA respaldada por sus 193 Estados miembros.

Desarrollo del tema

Diseñar un sistema también significa elegir valores

Imagina un sistema destinado a detectar solicitudes sospechosas de un apoyo económico. Su diseñador debe decidir qué considera sospechoso, cuánto daño produce un fraude que no detecta y cuánto daño produce investigar injustamente a una persona legítima. No existe una configuración capaz de evitar todos los errores al mismo tiempo. Modificar un umbral puede detectar más casos y, a la vez, aumentar los falsos positivos.

Por eso palabras aparentemente técnicas como precisión, eficiencia, riesgo o relevancia esconden decisiones normativas. Si una plataforma recomienda contenido para maximizar minutos de uso, está privilegiando permanencia. Si modifica el objetivo para aumentar diversidad informativa, está priorizando algo distinto. El código ejecuta la decisión, pero no inventó el criterio.

UNESCO formalizó esta preocupación en 2021 al aprobar su Recomendación sobre la Ética de la Inteligencia Artificial en 193 Estados miembros. El documento relaciona la IA con derechos humanos, diversidad, inclusión, supervisión humana y responsabilidad. El hecho de que un organismo internacional necesitara un marco de esa escala muestra que el diseño tecnológico ya no puede entenderse únicamente como un asunto de ingeniería.

En tu vida cotidiana puedes aplicar una pregunta sencilla: ¿qué comportamiento parece premiar este sistema? Si una red recomienda aquello que genera más interacción, si una aplicación de movilidad premia menor tiempo de espera o si un sistema escolar ordena alumnos según determinada métrica, observar el objetivo permite comenzar a descubrir los valores incorporados.

Opacidad algorítmica: cuando recibes una decisión sin comprender el camino

Un algoritmo es opaco cuando las personas afectadas no pueden comprender de manera suficiente cómo se produjo una salida. La causa puede ser técnica —un modelo con millones de parámetros—, pero también organizacional: secreto comercial, documentación insuficiente, falta de registros o una interfaz que solo muestra “solicitud rechazada” sin explicar los factores relevantes.

Transparencia no significa publicar miles de páginas de código. Una explicación útil depende del contexto. Si una plataforma bloquea una transacción, puede ser más importante saber qué categorías de información influyeron, cómo solicitar revisión y qué limitaciones tiene el sistema que conocer cada operación matemática interna.

Los Principios de IA de la OCDE, adoptados originalmente en 2019 y actualizados en 2024, establecen que los actores deberían proporcionar información significativa sobre capacidades y limitaciones y, cuando sea viable, sobre los factores o la lógica que condujeron a una predicción, recomendación o decisión. También destacan que una persona perjudicada debería disponer de información que le permita cuestionar el resultado.

Esto importa cuando recibes una decisión automatizada en crédito, empleo, seguros, educación o servicios públicos. Una explicación que solo dice “nuestro algoritmo determinó el resultado” no permite detectar un dato equivocado ni impugnar una inferencia injusta. La transparencia útil debe permitir actuar, no únicamente observar.

Responsabilidad cuando falla la IA: la máquina no puede asumir las consecuencias

Supón que una institución compra un modelo creado por un proveedor externo. Sus empleados introducen información, el sistema produce una recomendación y una persona la acepta casi automáticamente. Después se descubre que el modelo perjudicó de manera sistemática a cierto grupo. ¿Quién responde: el programador, la empresa, la institución, quien operó el sistema o quien tomó la decisión final?

La respuesta ética suele involucrar responsabilidades distribuidas, pero eso no significa responsabilidad inexistente. Cada actor controla una parte diferente: quien desarrolla puede documentar limitaciones; quien compra puede evaluar si el sistema sirve para ese contexto; quien despliega puede vigilar resultados; quien toma decisiones puede conservar capacidad de revisión; y la institución puede establecer mecanismos de queja y reparación.

El NIST estadounidense publicó en enero de 2023 su AI Risk Management Framework 1.0. El marco organiza la gestión del riesgo alrededor de cuatro funciones: Govern, Map, Measure y Manage. La idea es importante porque desplaza la responsabilidad desde el momento del fallo hacia todo el ciclo de vida: gobernar, comprender el contexto, medir desempeño y manejar riesgos de manera continua.

Para ti, como ciudadano o usuario, existe una señal sencilla de alarma: si nadie puede responder quién tiene autoridad para detener el sistema, revisar una decisión o reparar un daño, existe un problema de gobernanza aunque la tecnología tenga una precisión elevada. Automatizar una decisión no debería automatizar también la evasión de responsabilidad.

Regulación tecnológica: convertir principios éticos en obligaciones

Los códigos voluntarios pueden orientar a una organización, pero una ley puede establecer obligaciones, autoridades y sanciones. Una de las experiencias regulatorias más importantes es la Ley de Inteligencia Artificial de la Unión Europea, conocida como AI Act, que clasifica determinados usos según su riesgo y establece distintas exigencias de transparencia, supervisión y control.

Desde el 2 de agosto de 2026 comenzaron a aplicarse nuevas obligaciones de transparencia del artículo 50. Entre otras medidas, determinados sistemas interactivos deben informar a la persona cuando está tratando directamente con una IA, mientras que los contenidos sintéticos y los deepfakes están sujetos a reglas específicas de identificación o etiquetado. Las obligaciones para varios sistemas considerados de alto riesgo seguirán entrando en aplicación posteriormente.

México sigue una trayectoria distinta. El Senado creó una comisión dedicada al análisis de la aplicación y desarrollo de la IA y realizó un proceso técnico-legislativo iniciado en diciembre de 2024. En abril de 2026, la comisión informó que estaba en condiciones de presentar una iniciativa de ley general después de casi 16 meses de trabajo, seis conversatorios y la participación sistematizada de 72 especialistas.

Esto permite entender por qué copiar una regulación extranjera no basta. México tiene sus propias instituciones, desigualdades, capacidades administrativas, leyes de protección de datos, condiciones laborales y formas de acceso tecnológico. Una regulación útil debe proteger derechos sin asumir que todos los países tienen la misma infraestructura para auditar y vigilar sistemas complejos.

Activismo digital: cuando ciudadanos e investigadores auditan el poder tecnológico

La participación ciudadana frente a la tecnología no consiste únicamente en firmar peticiones por Internet. Puede incluir investigación independiente, auditorías, periodismo, documentación de daños, litigio estratégico, solicitudes de transparencia, participación en consultas públicas y creación de herramientas que permitan observar aquello que empresas o gobiernos no están midiendo.

Una historia emblemática comenzó cuando la investigadora Joy Buolamwini observó que ciertos sistemas de análisis facial tenían dificultades para detectar correctamente su rostro. Junto con Timnit Gebru desarrolló el estudio Gender Shades, publicado en 2018, que evaluó tres sistemas comerciales utilizando un conjunto de 1,270 rostros.

Los resultados mostraron por qué una cifra general de precisión puede ocultar desigualdad. En los sistemas estudiados, el error máximo para hombres de piel clara fue de 0.8%, mientras que para mujeres de piel oscura llegó a 34.7%. La investigación convirtió una experiencia individual en evidencia medible y ayudó a impulsar una conversación pública sobre auditoría algorítmica, representación de datos y responsabilidad empresarial.

El ejemplo muestra una forma poderosa de activismo digital: no rechazar toda tecnología, sino exigir mejores preguntas y evidencia. Un ciudadano puede documentar una decisión inexplicable; una organización puede comparar resultados entre grupos; periodistas pueden investigar contratos públicos; especialistas pueden diseñar pruebas; y comunidades afectadas pueden participar en la definición de aquello que debería medirse antes de desplegar un sistema.

Conclusión

Preguntar quién decide cómo funciona la IA revela que un sistema tecnológico es también una estructura de decisiones. Se eligen objetivos, datos, métricas, umbrales, permisos, interfaces y mecanismos de revisión. Algunas decisiones pertenecen a desarrolladores; otras, a empresas, gobiernos, compradores, operadores y reguladores. El algoritmo conecta esas decisiones, pero no elimina su origen humano.

La opacidad vuelve especialmente importante esa cadena de responsabilidad. Cuando una persona recibe una decisión que no puede comprender ni cuestionar, el problema no es únicamente que el modelo sea complicado: puede existir una asimetría de poder. Transparencia útil, trazabilidad, supervisión y mecanismos de apelación permiten reducirla.

La regulación añade obligaciones y límites, mientras la ciudadanía puede observar, investigar y exigir cambios. Ninguna de estas vías es suficiente por sí sola. Las leyes pueden quedar obsoletas, las auditorías necesitan acceso a evidencia y las empresas poseen conocimiento técnico que los reguladores no siempre tienen. La ética tecnológica seguirá siendo una negociación permanente sobre qué usos aceptamos y qué condiciones exigimos para aceptarlos.

Actividad de aprendizaje autónoma

Producto final: una auditoría ética ciudadana de un sistema de IA. Elige una aplicación o uso identificable: recomendaciones de contenido, un chatbot, reconocimiento facial, filtrado de candidatos, evaluación automatizada, moderación de contenido, detección de fraude u otro sistema que pueda afectar decisiones reales.

Antes de construir tu auditoría, completa estas cuatro ideas:

Ahora desarrolla la auditoría:

1. Describe qué hace el sistema, quién lo ofrece y quién utiliza su resultado.
2. Identifica qué comportamiento parece optimizar: rapidez, seguridad, interacción, ventas, precisión, reducción de costos u otro.
3. Anota tres tipos de datos que podrían influir en su decisión y señala qué personas o situaciones podrían quedar poco representadas.
4. Explica qué información recibe una persona cuando el sistema produce un resultado. Decide si esa explicación permite actuar o únicamente informa.
5. Identifica al menos cuatro actores de la cadena de responsabilidad: desarrollador, proveedor, comprador, operador, institución, autoridad u otros.
6. Para cada actor escribe una acción concreta que podría realizar antes, durante o después de un fallo.
7. Describe un posible daño y clasifica su gravedad: molestia menor, pérdida económica, afectación de oportunidad o afectación de derechos.
8. Investiga si existe una política, norma, regulación sectorial o mecanismo de queja aplicable al contexto donde se utiliza.
9. Propón una mejora técnica, una mejora institucional y una forma de participación ciudadana.
10. Cierra con una conclusión: ¿aceptarías el uso del sistema tal como está, lo aceptarías con condiciones o considerarías que no debería utilizarse en ese contexto? Justifica tu decisión.

Reflexión final: después de reconstruir todas las decisiones humanas alrededor del sistema, ¿sigues pensando en él como una tecnología que “decide sola” o puedes identificar con mayor precisión dónde se concentra el poder?