Quan una tecnologia pot orientar una ajuda, prioritzar un cas o condicionar la reputació d’una persona, la IA no és neutral: ja no parlem només d’innovació, parlem de poder organitzat.
De la innovació al bé comú
Quan una eina pot decidir l’accés a una feina, orientar una ajuda, prioritzar un cas o condicionar la reputació d’algú, el debat deixa de ser sobre innovació i passa a ser sobre poder. La publicació d’una encíclica centrada en la IA aquest maig ha tornat a posar una pregunta incòmoda al centre. Qui defineix els criteris morals, socials i polítics dels sistemes que cada cop intervenen més en la vida pública?
Per a les entitats socials, aquesta pregunta és molt concreta. Una IA no és neutral només perquè sigui eficient. Les eines hereten les prioritats de qui les dissenya, les finança, les entrena i les desplega. Si aquestes prioritats no incorporen drets, context i supervisió, el risc no és només tècnic: és institucional.
La governança, per tant, no pot quedar en una política interna que ningú no consulta. Diversos marcs de gestió del risc insisteixen a passar de la teoria a l’acció. Cal identificar riscos, assignar responsabilitats, revisar proveïdors, documentar decisions i incorporar la IA dins la gestió ordinària del risc. El bé comú també és una decisió operativa, no només una declaració.
Les dades recents mostren que les organitzacions formalitzen més la IA responsable, però continuen pesant les bretxes de coneixement, pressupost i transparència. Per al tercer sector això vol dir començar amb una governança proporcional però real. Cal preguntar-se què pot fer l’eina, amb quines dades, amb quin control humà i amb quin mecanisme de rectificació.
Per què la IA no és neutral
Aquesta no-neutralitat es veu millor amb un exemple. Una eina entrenada amb dades on certs col·lectius hi apareixen poc, o hi apareixen sempre associats a problemes, tendirà a reproduir aquesta mirada. Ho farà cada cop que ajudi a redactar, classificar o prioritzar. Per a una entitat que treballa precisament per revertir aquesta mirada, fer-la servir sense criteri és arriscat: pot significar amplificar amb tecnologia allò mateix que combat amb la missió.
Per això la conversa útil no és sobre la potència del model, sinó sobre les condicions d’ús. Quines dades hi entren, qui revisa el resultat, què es fa si el sistema exclou algú?
Preguntes abans d’adoptar la propera eina
Una governança proporcional no frena la innovació. La fa compatible amb els valors que l’organització diu defensar.
La lectura útil no és IA sí o IA no, sinó quines condicions fan que una IA reforci drets i confiança en lloc de concentrar decisió i opacitat. Quines d’aquestes condicions estaríeu disposats a exigir abans d’adoptar la propera eina?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
