Si una entitat fa servir IA per comunicar, prioritzar o atendre, la pregunta important no és si té una política. És si pot explicar qui respon, com es revisa i què passa quan falla. En definitiva, tot passa per la capacitat de supervisar el que fa la IA.
Ni el regulador ni el mercat resoldran els criteris per tu
La IA està entrant a les organitzacions més ràpid del que hi entra la capacitat de supervisar-la bé. Això té una conseqüència incòmoda: no podem delegar la IA responsable només al regulador, ni esperar que el mercat ens resolgui els criteris.
Si una entitat fa servir IA per comunicar, prioritzar, resumir, atendre o decidir, la pregunta important no és si té una política d’IA. La pregunta és si pot explicar qui respon, com es revisa i què passa quan alguna cosa falla. Tenir un document i tenir capacitat de resposta no són el mateix.
Els senyals d’aquests dies hi van tots. Hi ha sectors on l’adopció ja va clarament per davant de la supervisió. Els marcs internacionals baixen la conversa a terra i parlen de diligència deguda real: assignar responsabilitats, exigir informació als proveïdors, revisar riscos i definir mesures correctores. I, en paral·lel, Europa prepara eines perquè la transparència sobre el contingut generat per IA deixi de ser voluntarista.
La capacitat de supervisar, en quatre passos
Per a les entitats socials, això no demana burocràcia. Demana ordre: un inventari d’usos, un criteri per decidir què sí i què no, una persona responsable i un mínim protocol per a continguts públics, dades sensibles i revisió humana.
La temptació de delegar els criteris al regulador o al mercat és comprensible, però perillosa. El regulador arribarà tard i amb un mínim comú; el mercat optimitzarà el que li convé vendre. Cap dels dos posarà, en lloc de l’entitat, la decisió sobre quines dades no entren en una eina o quins usos no s’activen sense garanties. Aquesta decisió és intransferible.
L’ordre que cal no és costós: un inventari d’usos, un criteri de què sí i què no, una persona responsable i un protocol per a continguts públics i dades sensibles. El que costa no són els recursos, sinó dedicar-hi l’estona de reflexió que la velocitat d’adopció tendeix a engolir.
La confiança no es construirà dient que fem servir IA amb prudència, sinó demostrant com la governem. Què podríeu demostrar, avui mateix, si algú us ho demanés?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
