Hi ha una conversa sobre confiança pública en la IA que ja no es pot deixar només a l’equip tècnic ni al departament legal.
La confiança pública en la IA no depèn tant de com l’expliquem
Aquests dies coincideixen tres senyals que convé llegir junts. La Comissió Europea ja concreta les obligacions de transparència de l’AI Act per a sistemes que interactuen amb persones o generen contingut sintètic.
Al mateix temps, les dades mostren una paradoxa: creix l’optimisme sobre la IA, però també el nerviosisme. La distància entre el que esperen els experts i el que percep la ciutadania continua sent molt alta.
Per això, una recerca recent hi afegeix una idea especialment rellevant: el suport o la resistència a la IA no depèn tant de com en descrivim el funcionament com de valors previs, com l’autenticitat o la preocupació pels impactes desiguals. Explicar millor la tècnica no resol, per si sol, la desconfiança.
Tres preguntes abans d’automatitzar
Per a les entitats socials, governar la IA vol dir poder respondre abans d’automatitzar, publicar o desplegar: qui revisa, com s’explica i què passa si falla. Aquestes tres preguntes no són un tràmit: són la base de la legitimitat de qui treballa amb confiança i informació sensible.
Per tant, la confiança no surt d’un relat tecnològic ben empaquetat. Surt de la capacitat d’explicar criteris, límits i mecanismes de correcció amb un llenguatge que les persones entenguin. Quan una organització ho fa, la IA responsable deixa de ser discurs i es converteix en legitimitat.
Qui hauria de seure a la taula
Si el suport a la IA depèn més de valors que d’explicacions tècniques, la conseqüència per a una entitat és clara: no n’hi haurà prou amb un apartat al web que detalli quins models fa servir. El que generarà confiança és poder dir, amb un llenguatge entenedor, per què s’ha decidit fer servir una eina, quins límits té i què passa si s’equivoca.
A més, aquesta conversa implica direcció, comunicació i atenció alhora. Deixar-la només en mans de l’equip tècnic o del departament legal és confondre el compliment amb la legitimitat. El compliment evita una sanció; la legitimitat manté la relació amb les persones, els donants i les comunitats.
En definitiva, la conversa sobre confiança pública en la IA implica direcció, comunicació i atenció alhora, no només sistemes. A la teva organització, qui hauria de seure a aquesta taula que avui potser no hi seu?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
