Cuando una tecnología puede orientar una ayuda, priorizar un caso o condicionar la reputación de una persona, la IA no es neutral: ya no hablemos sólo de innovación, hablemos de poder organizado.
De la innovación al bien común
Cuando una herramienta puede decidir el acceso a un trabajo, orientar una ayuda, priorizar un caso o condicionar la reputación de alguien, el debate deja de ser sobre innovación y pasa a ser sobre poder. La publicación de una encíclica centrada en la IA este mayo ha vuelto a poner una pregunta incómoda en el centro. ¿Quién define los criterios morales, sociales y políticos de los sistemas que intervienen cada vez más en la vida pública?
Para las entidades sociales esta pregunta es muy concreta. Una IA no es neutral sólo para que sea eficiente. Las herramientas heredan las prioridades de quien las diseña, financia, entrena y despliega. Si estas prioridades no incorporan derechos, contexto y supervisión, el riesgo no sólo es técnico: es institucional.
La gobernanza, por tanto, no puede quedar en una política interna que nadie consulta. Varios marcos de gestión del riesgo insisten en pasar de la teoría a la acción. Es necesario identificar riesgos, asignar responsabilidades, revisar proveedores, documentar decisiones e incorporar la IA dentro de la gestión ordinaria del riesgo. El bien común es también una decisión operativa, no sólo una declaración.
Los datos recientes muestran que las organizaciones formalizan más la IA responsable, pero siguen pesando las brechas de conocimiento, presupuesto y transparencia. Para el tercer sector esto significa empezar con una gobernanza proporcional pero real . Cabe preguntarse qué puede realizar la herramienta, con qué datos, con qué control humano y con qué mecanismo de rectificación.
Por qué la IA no es neutral
Esta no-neutralidad se ve mejor con un ejemplo. Una herramienta entrenada con datos en los que ciertos colectivos aparecen poco, o aparecen siempre asociados a problemas, tenderá a reproducir esta mirada. Lo hará cada vez que ayude a redactar, clasificar o priorizar. Para una entidad que trabaja precisamente para revertir esta mirada, utilizarla sin criterio es arriesgado: puede significar amplificar con tecnología lo mismo que combate con la misión.
Por eso la conversación útil no es sobre la potencia del modelo, sino sobre las condiciones de uso. ¿Qué datos entran, quién revisa el resultado, qué se hace si el sistema excluye a alguien?
Preguntas antes de adoptar la siguiente herramienta
Una gobernanza proporcional no frena la innovación. La hace compatible con los valores que la organización dice defender.
La lectura útil no es IA sí o IA no, sino qué condiciones hacen que una IA refuerce derechos y confianza en lugar de concentrar decisión y opacidad. ¿Cuáles de estas condiciones estaría dispuestos a exigir antes de adoptar la próxima herramienta?
✳ Este artículo se ha elaborado con apoyo de IA generativa. Revisión y responsabilidad editorial: Enric Guinart Mauri. Más información →
