La Comisión Europea ha alargado la consulta sobre las guías para clasificar sistemas de IA de alto riesgo. El calendario puede moverse; la responsabilidad de las organizaciones, no.
Una pregunta previa a la del AI Act
Cuando una IA puede afectar al acceso a un servicio, una oportunidad laboral, una decisión educativa o la confianza de una comunidad, ya no es sólo una herramienta eficiente. Es una decisión de gobernanza. Y esa condición no depende de que un reglamento haya entrado en vigor.
La pregunta útil para una entidad no es sólo si un uso será clasificado como alto riesgo según la AI Act, ahora que la Comisión Europea todavía afina las guías de clasificación de los sistemas de alto riesgo . La pregunta previa es más sencilla y más exigente: ¿este uso puede afectar a derechos, acceso, trato, voz o confianza? A partir de ahí se pueden tomar tres decisiones prácticas sin esperar a Bruselas.
La primera es realizar inventario de los usos sensibles. No es igual resumir documentos internos que priorizar casos, perfilar a personas donantes, automatizar respuestas en servicios de atención o ayudar a decidir quién accede a un recurso. La segunda es clasificar antes de realizar el piloto, con una especie de semáforo interno: usos aceptables, usos que piden supervisión reforzada y usos que no deberían activarse sin garantías muy claras.
La tercera es documentar quien responde. La supervisión humana no puede ser una frase en una política interna. Debe quedar claro quién valida, quién puede detener el sistema, qué datos se utilizan, cómo se revisan los errores y cómo se explica el uso de la IA a las personas afectadas. Varias entidades de derechos digitales, como EDRi , recuerdan que rebajar estas garantías sale caro.
El semáforo interno: herramienta práctica para la gestión del riesgo IA
El semáforo interno es más útil de lo que parece porque obliga a conversar antes de actuar. En verde caben usos como resumir documentación pública o preparar un primer redactado. En amarillo, quienes piden supervisión reforzada: traducir un informe sensible, analizar respuestas de personas participantes. En rojo, los que no deberían activarse sin garantías muy claras: perfilar personas donantes, priorizar quién accede a un recurso, automatizar respuestas en un servicio de atención.
El valor de ese ejercicio no es la clasificación en sí, sino la conversación que provoca. Cuando un equipo discute en qué color va cada uso, visibiliza criterios que antes estaban implícitos y repartidos. Esta visibilidad vale más que cualquier política colgada en la web. Puedes leer más sobre cómo gestionar la transparencia IA en las ONG en el contexto del artículo 50.
Poner criterio antes de escalar no es frenar la innovación; en organizaciones que trabajan con derechos y confianza pública, forma parte de la misión. ¿Cuáles de los usos que ya tiene en marcha pasarían hoy su propio semáforo?
✳ Este artículo se ha elaborado con apoyo de IA generativa. Revisión y responsabilidad editorial: Enric Guinart Mauri. Más información →
