Ja no entra només pels equips tècnics: la IA ja és a la sala de decisions quan algú resumeix documentació interna amb una eina generativa o quan es prepara una reunió de direcció. La pregunta deixa de ser quina eina fem servir.
Qui ha decidit què pot fer aquesta eina
La intel·ligència artificial pot entrar en una organització per llocs poc visibles. Quan algú resumeix actes de patronat amb un assistent. Quan un equip directiu demana ajuda per ordenar una reunió. Quan s’automatitza una part d’un procés que afecta l’accés a serveis, l’ocupació, l’habitatge o la confiança pública. En cap d’aquests moments hi ha un projecte tecnològic formal, i tot i així la IA ja està intervenint en decisions.
Per això la pregunta útil ja no és quina eina fem servir, sinó qui ha decidit què pot fer aquesta eina. L’ús de la IA als consells de direcció ja creix, i això té tres implicacions molt concretes per a les entitats amb propòsit.
Tres implicacions de portar la IA a la sala de decisions
La primera: la confidencialitat no s’improvisa. Si documents de patronat, dades de persones ateses o materials estratègics entren en eines no aprovades, el risc ja no és tecnològic, és de governança. La segona: la responsabilitat no es delega al proveïdor. Un sistema pot recomanar, resumir o classificar, però l’organització continua responent pel criteri, pels efectes i pels errors, sobretot quan hi ha drets en joc i el seu ús pot derivar en discriminació.
La tercera implicació és la més estratègica: el patronat, el consell o l’equip directiu necessiten una conversa pròpia sobre IA. No una sessió inspiracional, sinó una de operativa. Quins usos es permeten, quines dades queden excloses, quina supervisió humana és real, on es registren les decisions i amb quins criteris s’atura o es revisa un ús que no funciona. Hi ha marcs de pràctiques responsables que poden servir de guia.
El terreny on això es juga no és abstracte. Pensa en una fundació que prepara la memòria anual amb un assistent que ha tingut accés a la carpeta compartida de patronat, o en un equip de serveis socials que penja expedients en una eina de transcripció contractada per un altre departament. En cap dels dos casos hi ha hagut mala fe; hi ha hagut absència de criteri compartit. I és precisament aquesta absència la que converteix una decisió tècnica en un risc institucional.
Com obrir la conversa al patronat
Tenir aquesta conversa no demana un gran comitè ni un document de cinquanta pàgines. Demana una hora de reunió ben preparada, una llista curta d’usos permesos i exclosos, i un acord sobre qui valida i qui pot dir prou. El que no es pot governar és el que ningú no ha posat damunt la taula.
La governança responsable no comença el dia que es compra una eina, sinó el dia que una organització decideix quines decisions no vol deixar sense criteri. Quines, a la teva, ja s’estan prenent amb ajuda d’una IA que ningú no ha governat encara?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
