Una herramienta de IA puede mejorar productividad y ser una mala decisión para un proceso específico al mismo tiempo.
La pregunta ética no es “¿la IA es buena o mala?”. Es más concreta: ¿qué datos utiliza, quién puede resultar perjudicado, cómo se explica una decisión, qué trabajo modifica y quién conserva la responsabilidad? Evaluar esas preguntas antes de comprar o desplegar una herramienta es una competencia de coordinación.
Objetivo didáctico
Al terminar esta ficha serás capaz de evaluar una herramienta de IA mediante criterios de sesgo, privacidad, transparencia, impacto laboral y responsabilidad para recomendar su adopción, modificación o rechazo.
Introducción
Adoptar IA es una decisión organizacional, no solamente tecnológica. Una solución para priorizar candidatos, evaluar desempeño, resumir llamadas o atender clientes puede redistribuir poder, información y oportunidades dentro y fuera de la empresa.
La UNESCO adoptó en 2021 una recomendación global sobre ética de la IA y la OECD actualizó sus principios en 2024. Ambos marcos enfatizan elementos como derechos, privacidad, transparencia, supervisión humana, robustez y rendición de cuentas.
💡 Evaluación ética
Proceso sistemático para identificar quién obtiene beneficios, quién asume riesgos, qué derechos o intereses están involucrados y qué controles permiten usar una tecnología de forma responsable.
La ética aplicada no busca una herramienta “perfecta”. Busca decisiones justificables: uso proporcional al problema, datos adecuados, riesgos entendidos, supervisión real y posibilidad de corregir daños.
Los seis apartados siguientes convierten esos principios en preguntas prácticas para coordinadores.
Desarrollo del tema
Entender los sesgos y su impacto laboral
Un sistema puede reproducir desigualdades aunque nadie haya programado una regla explícitamente discriminatoria. Los datos históricos reflejan decisiones pasadas, y las variables aparentemente neutrales pueden actuar como aproximaciones de características sensibles.
La evaluación necesita observar resultados por grupos cuando sea pertinente. Un promedio global de 90% de precisión puede ocultar un desempeño mucho peor para una población minoritaria.
El debate moderno sobre equidad algorítmica creció cuando sistemas de puntuación y clasificación comenzaron a utilizarse en contextos de alto impacto. La investigación demostró que “objetivo” no significa “libre de decisiones humanas”: seleccionar datos, métricas y umbrales también incorpora criterios.
En el trabajo, una práctica mínima es preguntar qué grupos podrían verse afectados y qué mecanismo existe para revisar decisiones adversas. Si nadie puede apelar un resultado, el riesgo ético aumenta.
Evaluar privacidad de datos al usar IA de terceros
La evaluación de privacidad comienza antes del prompt. Debe entenderse qué información se enviará, dónde se procesa, cuánto tiempo se conserva y para qué usos adicionales puede emplearse.
Una clasificación de cuatro niveles —público, interno, confidencial y restringido— ayuda a definir qué herramientas pueden recibir cada tipo de información.
Esto cambia la pregunta de compra. Ya no basta “¿qué tan bien resume?”. También importa qué contrato existe, si hay controles administrativos y cómo se maneja una solicitud de eliminación o incidente.
Para un coordinador, la práctica es crear una lista de datos permitidos y prohibidos por caso de uso, revisada por las áreas correspondientes cuando exista información sensible.
Preguntar por transparencia algorítmica
Transparencia no exige revelar cada línea de código. Para un comprador o coordinador significa recibir información suficiente sobre propósito, limitaciones, datos, métricas de evaluación y condiciones de uso.
La OECD destaca transparencia y explicabilidad entre sus principios. Una evaluación práctica puede utilizar cinco preguntas: ¿para qué fue diseñado?, ¿con qué datos se evaluó?, ¿qué limitaciones declara?, ¿qué registros conserva?, ¿cómo se impugna un resultado?
El proveedor se niega a compartir cualquier información sobre desempeño por grupos alegando secreto comercial.
La transparencia también debe alcanzar al usuario final cuando la IA influye de forma relevante. En muchos contextos es razonable informar que existe asistencia automatizada y explicar los canales de revisión.
Si un proveedor no puede responder preguntas básicas sobre limitaciones y seguridad, esa ausencia es información para la evaluación, no un detalle administrativo.
Analizar el impacto de la automatización en el equipo
La automatización cambia tareas, no solamente horas. Puede eliminar trabajo repetitivo, pero también concentrar decisiones, reducir oportunidades de aprendizaje o transferir carga a quienes gestionan excepciones.
Antes de adoptar una herramienta conviene mapear al menos tres efectos: tareas que desaparecen, tareas que cambian y tareas nuevas que aparecen. Entre estas últimas suelen estar revisión, supervisión, documentación y gestión de errores.
Un ejemplo es un sistema que redacta respuestas de soporte. Puede reducir escritura, pero los agentes quizá reciban principalmente casos difíciles. La carga cognitiva promedio puede aumentar aunque el volumen total disminuya.
Involucrar a las personas afectadas durante el piloto ayuda a detectar impactos invisibles para compradores y directivos. La participación no garantiza consenso, pero mejora la información disponible.
Tomar decisiones de adopción con criterio
La decisión no tiene que ser binaria. Existen al menos cuatro resultados: adoptar, adoptar con controles, pilotear de forma limitada o no adoptar. Esta escala evita confundir curiosidad con aprobación.
Los criterios deben definirse antes del piloto. Si el equipo prueba una herramienta sin umbrales de éxito, puede terminar justificando retrospectivamente cualquier resultado porque ya invirtió tiempo.
¿Qué evidencia tendría que aparecer para que decidieras no adoptar una herramienta que te parece tecnológicamente impresionante?
El piloto debe incluir escenarios normales y casos difíciles. Si una herramienta de clasificación funciona bien en 95 casos simples pero falla precisamente en los cinco casos con mayor impacto, el promedio no basta.
La decisión final debe documentar propósito, beneficios, riesgos, controles, responsables y fecha de revisión. Una adopción ética no termina con la firma del contrato.
Usar un marco ético básico de evaluación
Un marco ligero puede revisar seis dimensiones: propósito legítimo, datos y privacidad, equidad, transparencia, supervisión humana e impacto laboral. La herramienta no necesita obtener una puntuación perfecta, pero cada riesgo importante requiere un tratamiento explícito.
El NIST AI RMF organiza gestión de riesgo mediante Govern, Map, Measure y Manage. UNESCO y OECD aportan principios complementarios sobre derechos, transparencia, supervisión y rendición de cuentas.
Clasifica la pregunta.
Este marco debe aplicarse proporcionalmente. Un asistente para reformular textos internos no exige el mismo nivel de evaluación que una herramienta utilizada para contratar o despedir personas.
La mejor evidencia de madurez ética es poder explicar por qué se adoptó una herramienta, qué límites tiene y bajo qué condiciones se suspendería.
Conclusión
Evaluar ética de IA no consiste en detener innovación, sino en mejorar la calidad de la decisión. Una herramienta poderosa puede ser apropiada para un proceso y desproporcionada para otro.
El coordinador intermedio actúa como puente entre tecnología y consecuencias: formula preguntas, exige evidencia, escucha a personas afectadas y mantiene visible la responsabilidad humana.
🔭 Para seguir aprendiendo
- ¿Qué usos de IA deberían requerir una evaluación independiente?
- ¿Cómo cambia la ética cuando una herramienta aprende de datos propios de la organización?
- ¿Quién debería tener autoridad para detener un sistema que produce daño?
Actividad de aprendizaje autónoma
Producto esperado: ficha de evaluación ética de una herramienta de IA.
- Selecciona una herramienta que tu equipo use o considere adoptar.
- Describe propósito y personas afectadas.
- Evalúa privacidad, equidad, transparencia, supervisión e impacto laboral.
- Identifica tres riesgos y un control para cada uno.
- Emite una recomendación: adoptar, adoptar con controles, pilotear o no adoptar.
Evidencia de logro: la recomendación identifica beneficios y riesgos, propone controles verificables y establece quién conserva la responsabilidad.
Reflexión final: ¿qué beneficio tendría que ofrecer una herramienta para justificar un riesgo ético que hoy consideras significativo?
Referencias principales
OECD. (2024). OECD AI Principles.
UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence.
National Institute of Standards and Technology. (2024). Generative Artificial Intelligence Profile (NIST AI 600-1).