Que una herramienta pueda utilizar un dato no significa que el equipo deba utilizarlo.
Consentimiento, privacidad, sesgos, supervisión humana y rendición de cuentas aparecen antes de que un sistema falle. Esta ficha ayuda a reconocer esas decisiones cuando todavía pueden modificarse.
🧩 ¿Cuál es la intrusa?
Objetivo didáctico
Al terminar esta ficha serás capaz de evaluar riesgos éticos en el uso de datos y herramientas automatizadas, definir controles de equipo y escalar usos indebidos con evidencia suficiente.
Introducción
La ética de datos no comienza cuando existe una filtración. Empieza al decidir qué información recolectar, para qué propósito, durante cuánto tiempo, quién accederá a ella y qué consecuencias puede generar una predicción o clasificación automatizada.
UNESCO adoptó en noviembre de 2021 su Recomendación sobre Ética de la Inteligencia Artificial, aplicable a 194 Estados Miembros. Entre sus principios aparecen derechos humanos, transparencia, equidad y supervisión humana.
📐 Concepto: uso ético de datos
Es la toma de decisiones sobre recolección, acceso, análisis, automatización y comunicación de datos considerando propósito, derechos, riesgos, proporcionalidad, seguridad, explicabilidad y responsabilidad.
Los Principios de IA de la OCDE fueron adoptados en 2019 y actualizados en 2024 para abordar con mayor claridad tecnologías de propósito general y generativas. Su revisión incorporó retos como privacidad, propiedad intelectual, seguridad e integridad de la información.
Un especialista o team lead rara vez diseña por sí solo la política global de datos, pero sí decide qué información sube a una herramienta, cómo interpreta una recomendación automatizada y cuándo una decisión requiere revisión humana.
Desarrollo del tema
Consentimiento informado y uso ético de datos de usuarios o clientes
Consentir requiere más que presionar “acepto”. Una persona necesita comprender de forma razonable qué dato se utilizará, con qué propósito y qué consecuencias relevantes puede tener. El diseño ético también pregunta si realmente es necesario recolectar ese dato.
La Recomendación de UNESCO de 2021 no se limita a consentimiento: adopta un enfoque de derechos humanos. Esa ampliación es importante porque existen contextos laborales donde una persona no tiene poder suficiente para rechazar libremente ciertos tratamientos.
Por ejemplo, pedir fecha de nacimiento completa cuando solo se necesita confirmar mayoría de edad aumenta la cantidad de información expuesta. La minimización busca utilizar la menor cantidad compatible con el propósito.
Práctica: seleccionar un formulario y justificar campo por campo: propósito, necesidad, acceso y periodo de conservación.
Sesgos algorítmicos en herramientas del equipo
Un algoritmo aprende o aplica reglas a datos que reflejan decisiones pasadas. Si el historial contiene desigualdades, la automatización puede reproducirlas o amplificarlas. El riesgo aumenta cuando el equipo interpreta una puntuación como neutral únicamente porque proviene de software.
La actualización de 2024 de los Principios de IA de la OCDE conserva cinco principios basados en valores y cinco recomendaciones. Entre sus preocupaciones están robustez, transparencia, responsabilidad y respeto a derechos.
Los Principios de IA de la OCDE se organizan en cinco principios de valores y cinco recomendaciones. La gobernanza ética no depende de un solo control: combina derechos, transparencia, seguridad, responsabilidad y capacidad institucional.
Un sistema para priorizar candidatos puede utilizar variables aparentemente neutras que funcionan como proxies de características sensibles. Revisar resultados segmentados y cuestionar variables de entrada ayuda a detectar patrones inesperados.
Práctica: elegir una herramienta automatizada del equipo y documentar entrada, salida, población afectada, posibilidad de error y grupos que podrían recibir errores distintos.
Responsabilidad cuando una herramienta automatizada toma decisiones
Delegar una recomendación a software no elimina responsabilidad organizacional. Cuanto mayor sea la consecuencia para una persona —empleo, crédito, acceso, evaluación— mayor debe ser la claridad sobre revisión, apelación y autoridad final.
UNESCO enfatiza supervisión humana y responsabilidad. Eso no significa que una persona deba aprobar manualmente cada operación; significa que deben existir puntos donde una persona competente pueda comprender, intervenir o detener el proceso.
En una empresa de servicios, un sistema puede recomendar qué casos investigar primero. Si el equipo convierte automáticamente la prioridad en sanción, transforma una señal probabilística en decisión definitiva sin revisión suficiente.
Práctica: dibujar una línea entre “recomendación automatizada” y “consecuencia”. Marcar al menos un punto de revisión humana y un mecanismo de escalamiento.
Privacidad de datos internos y de terceros
La privacidad laboral incluye información de clientes, personal, proveedores y socios. El riesgo no está únicamente en una gran base de datos: puede aparecer al copiar información sensible en una herramienta no autorizada o compartir archivos mediante permisos excesivos.
Una regla operativa útil es clasificar información en al menos tres niveles —pública, interna y restringida— y asociar cada nivel con herramientas y canales permitidos. Algunas organizaciones requieren categorías más detalladas.
El auge de herramientas de IA generativa hizo especialmente visible una práctica antigua: usar servicios externos sin revisar qué ocurre con los datos introducidos. Antes de subir información debe verificarse política interna, contrato y configuración aplicable.
Práctica: auditar diez archivos o prompts utilizados durante una semana y registrar si contienen información personal, confidencial o de terceros.
Cómo reportar uso indebido de datos
Reportar no significa acusar sin evidencia. Significa activar un canal apropiado cuando existen señales razonables de acceso, uso, exposición o decisión incompatible con políticas, compromisos o derechos.
Un reporte útil puede contener cinco elementos: qué ocurrió, cuándo, datos o sistemas implicados, personas potencialmente afectadas y evidencia disponible. Debe evitar copiar más información sensible de la necesaria para demostrar el problema.
Si descubrieras hoy que una práctica de tu equipo expone datos innecesariamente, ¿sabrías exactamente a quién informar, qué evidencia conservar y qué deberías dejar de hacer de inmediato?
Si existe riesgo activo, la prioridad puede ser contener: retirar permisos, dejar de utilizar una herramienta o escalar a seguridad, privacidad o responsable designado. El coordinador no debe investigar por su cuenta de forma que destruya registros o amplíe la exposición.
Práctica: localizar el canal real de reporte y guardar en el manual del equipo una ruta de tres pasos: contener, documentar y escalar.
Marcos éticos básicos para decisiones tecnológicas
Los marcos de UNESCO y OCDE convergen en varias preguntas útiles: ¿respeta derechos?, ¿es justo?, ¿es transparente?, ¿es seguro?, ¿hay supervisión y responsabilidad? Convertirlas en una lista de decisión ayuda a equipos que no cuentan con especialistas éticos en cada proyecto.
Una revisión ética debe ser proporcional. Una herramienta que recomienda el orden de lectura de noticias internas no requiere el mismo control que un sistema que influye en contratación o crédito.
También conviene evaluar reversibilidad. Si una decisión errónea puede corregirse fácilmente, el riesgo es distinto a una decisión difícil de apelar. Esta variable ayuda a decidir cuánto control se necesita antes de desplegar.
Práctica: aplicar seis preguntas a la próxima herramienta: propósito, datos, personas afectadas, sesgo, supervisión y reversibilidad.
🧩 Clasifica el riesgo
Conclusión
La ética tecnológica se practica antes de que aparezca una crisis: al limitar datos, cuestionar una predicción, conservar revisión humana y definir una ruta de reporte. Automatizar una tarea no automatiza la responsabilidad.
La competencia intermedia consiste en reconocer cuándo una herramienta cambia la distribución de poder o riesgo y exigir controles proporcionales a sus consecuencias.
🔭 Para seguir aprendiendo
- ¿Qué dato utiliza tu equipo simplemente porque está disponible?
- ¿Qué decisión automatizada debería tener un mecanismo explícito de apelación?
- ¿Qué riesgo nuevo crea una herramienta aun cuando mejora productividad?
Actividad de aprendizaje autónoma
Producto esperado: evaluación ética de una herramienta utilizada por tu equipo.
- Selecciona una plataforma, algoritmo o herramienta de IA en uso.
- Describe propósito, datos de entrada y salida.
- Identifica personas afectadas y la consecuencia más grave posible.
- Revisa privacidad, sesgo, transparencia y supervisión humana.
- Define tres controles y una ruta de escalamiento.
- Emite una recomendación: continuar, continuar con cambios, pausar o sustituir.
✍️ Generador de registro ético
Evidencia de logro: el análisis identifica riesgos concretos, controles, responsable y criterio de continuidad.
Reflexión final: ¿qué decisión que antes parecía puramente técnica reconoces ahora como una decisión ética?
Referencias principales
- OECD. (2024). OECD AI Principles.
- UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence.