Als Estats Units s’està discutint una llei federal d’IA que podria treure als estats la capacitat d’actuar davant riscos concrets. El cas obre una pregunta clau per a la governança de la IA que també afecta el tercer sector català. Qui aporta l’evidència de què passa quan una IA falla?
Cap arquitectura de governança de la IA és suficient sense evidència social
El debat nord-americà sobre una llei federal d’intel·ligència artificial ha obert una tensió que val la pena mirar de prop. Un marc comú pot donar claredat i seguretat jurídica. Però el mateix marc, segons com es redacti, pot limitar la capacitat dels estats per respondre davant riscos concrets en privacitat, discriminació, infància, treball o drets de les persones consumidores.
Per a una entitat social, la lliçó útil no és triar entre nivell estatal o nivell local. La lliçó és una altra: una norma escrita lluny d’on passen les coses arriba sovint més tard que el dany. Quan una decisió automatitzada deixa una persona sense un recurs i ningú no la pot impugnar, el problema ja és real, hi hagi o no un reglament que el nomeni.
Les organitzacions que acompanyen persones, comunitats i serveis sensibles veuen abans que ningú on una eina pot fallar. Veuen quan un sistema tracta dades vulnerables com si fossin dades neutres, quan una promesa d’eficiència desplaça responsabilitat cap a qui té menys marge per reclamar. Aquesta mirada de camp és evidència, i és precisament el que falta a la majoria de debats reguladors.
El cas dels Estats Units mostra també una realitat incòmoda: la governança de la IA no es decideix només amb arguments tècnics. Hi entren interessos industrials, campanyes i pressió econòmica. Per això les entitats amb propòsit no haurien d’arribar a la conversa només com a usuàries d’eines, sinó amb criteri propi: documentant casos i riscos reals, exigint explicabilitat i vies de reclamació, defensant salvaguardes proporcionals quan hi ha drets en joc.
De la mirada de camp a la taula de decisió
Aquesta evidència de camp no s’improvisa el dia que algú la demana. Es construeix amb una pràctica modesta i constant: anotar quan una eina automatitzada deixa una persona sense un recurs i ningú no en sap explicar el perquè, recollir els casos en què una decisió no es pot revisar, guardar els correus on un proveïdor no respon què fa amb les dades. Una entitat mitjana que treballa amb persones migrades o amb famílies en risc d’exclusió acumula, sense adonar-se’n, un material que cap consultora pot generar des d’un despatx.
Portar aquest material als espais on es decideix, com ara una al·legació a una consulta pública, una reunió amb l’administració, una taula sectorial, és el que converteix una organització en un actor de la governança de la IA, no només en una usuària d’eines. La mateixa lògica (governar abans d’automatitzar) hauria de guiar cada desplegament intern. I és, sovint, l’única manera que la norma reculli el que de veritat passa quan una IA toca drets.
La capacitat de respondre quan una tecnologia afecta persones no es pot improvisar el dia que la norma es tanca. Quina part d’aquesta capacitat té avui la teva organització, i quina part encara depèn que algú altre la decideixi per ella?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
