Es la expresión que aparece en todas las políticas de uso de la IA: «supervisión humana». También es la que más a menudo se queda en una frase vacía, sin nadie detrás de que la haga real.
Una frase en una política nada supervisa
«Siempre habrá supervisión humana» se ha convertido en la manera fácil de cerrar cualquier conversación incómoda sobre inteligencia artificial. Suena responsable y tranquiliza. Pero supervisar no es una declaración: es una tarea concreta que alguien debe realizar, con tiempo, criterio y capacidad real de detener lo que revisa.
Sin esto, la frase sólo sirve para repartir la sensación de control, no el control. El Reglamento Europeo de la Inteligencia Artificial exige ya supervisión humana efectiva en los sistemas de alto riesgo, pero la ley marca el mínimo; la práctica real debe construirla cada organización.
La supervisión real comienza por una pregunta que muchas organizaciones no se han hecho: ¿quién, exactamente? Un nombre, no un departamento. ¿Aquella persona tiene tiempo asignado para revisar, o se espera que lo haga encima de su trabajo?
¿Tiene autoridad para decir que no y detener un proceso, o sólo para sugerir? Si reviso yo mismo, con prisa, lo que yo mismo he generado, no hay supervisión: existe una firma.
También importa el momento. Supervisar después de publicar no es supervisar; es hacer de auditor del propio error cuando ya no tiene remedio. La supervisión útil ocurre antes de que la decisión tenga efectos: antes de enviar, publicar, clasificar a una persona o activar una acción.
Y debe ser proporcional: no es necesario el mismo nivel de revisión para un resumen interno que para un contenido que afecta a derechos. Esa misma lógica de hacer reales los principios, y no dejarlos en una frase, es la que ya trabajamos a propósito de El consentiment no es un formulario .
Forma o fondo: qué se revisa de verdad
Existe una diferencia de fondo entre revisar la forma y revisar el fondo. Corregir el estilo de un texto generado es fácil, y es lo que suele ocurrir.
Comprobar si ese texto exagera, excluye a alguien, trata a una persona con condescendencia o afirma cosas que nadie ha verificado es más lento, y es lo que de verdad protege. La supervisión que sólo mira la ortografía da una falsa seguridad.
Cuatro preguntas que hacen real la supervisión humana
Hacerlo real no requiere grandes recursos, sino decisiones claras. Una organización tiene supervisión humana cuando puede responder, para cada proceso con IA:
- Quien revisa, con nombre y apellido, no un departamento
- Cuando revisa: antes de que la decisión tenga efectos, no después
- Con qué autoridad: puede detener el proceso o sólo sugerir ¿
- Con qué alcance: revisa el fondo o sólo corrige la forma
Una organización que puede responder a estas cuatro cosas tiene supervisión humana. Una que sólo tiene la frase tiene una promesa de que se romperá el día que importe.
La próxima vez que leas «con supervisión humana» en una política, intenta preguntar quién, cuándo y con qué autoridad. Si no hay respuesta, ya sabes cuánto vale esta frase. ¿Tu organización podría responderla?
✳ Este artículo se ha elaborado con apoyo de IA generativa. Revisión y responsabilidad editorial: Enric Guinart Mauri. Más información →
