Mentre creixen els discursos sobre adopció, sobirania o eficiència, les peces amb més criteri apunten a un altre lloc: la IA responsable no es decideix en el model, sinó en la governança.
Proveïdor, persones i impacte
La pregunta útil no és si una organització farà servir IA, sinó qui la podrà explicar, discutir i corregir quan afecti drets, serveis o confiança pública. Mentre creixen els discursos sobre adopció, sobirania o eficiència, les peces amb més criteri apunten en una direcció més concreta: la IA responsable no es decideix només en el model, es decideix en la governança. Hi ha tres proves bàsiques que convé passar abans de desplegar-la.
La primera és la transparència del proveïdor. Si no podem saber prou bé com s’ha pensat l’eina, quins riscos reconeix, quines incidències reporta o quins límits admet, estem comprant dependència, no criteri.
La segona és qui queda dins del procés. Si les persones afectades, els equips que atendran incidències o les veus de la societat civil no entren en la conversa, la governança es torna decorativa. I això, tard o d’hora, es paga en legitimitat.
La tercera és l’avaluació d’impacte abans del desplegament. No per frenar la innovació, sinó per ordenar-la. Qui pot resultar exclòs? Quines dades entren en joc? Quin marge de supervisió humana hi haurà? Què farem si la decisió automatitzada falla?
Les tres proves funcionen com un filtre que es pot aplicar en una sola reunió. Si el proveïdor no explica prou bé com s’ha pensat l’eina ni quins riscos reconeix, ja hi ha un senyal d’alerta. Si ningú no ha pensat com hi entren les persones afectades, la governança serà decorativa. I si no s’ha previst què passa quan la decisió automatitzada falla, l’entitat descobrirà el problema en el pitjor moment.
Cap d’aquestes proves demana coneixement tècnic avançat. Demanen voluntat de fer les preguntes incòmodes abans de signar, en comptes de després. I aquesta voluntat és, en si mateixa, una forma de governança que cap eina no pot substituir.
Per al tercer sector, això no és un debat tècnic sinó de responsabilitat institucional. La confiança no vindrà d’haver incorporat IA abans que ningú, sinó de poder demostrar que s’ha fet amb criteri. Quina de les tres proves us costaria més passar avui?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
