La coalició IA Ciudadana ha radiografiat l’impacte dels algoritmes en els drets de la ciutadania. La conclusió: hi ha marc normatiu, però el dret a reclamar es perd en un laberint institucional.
Saber on dirigir la queixa: el dret a reclamar, una competència bàsica
La coalició IA Ciudadana reuneix organitzacions de defensa dels drets humans en el context digital. Ha presentat diverses recerques que radiografien l’impacte dels algoritmes i la intel·ligència artificial en els drets de la ciutadania. La conclusió és contundent: existeix un marc normatiu que reconeix drets davant els sistemes d’IA. Però les persones afectades per decisions algorítmiques es troben davant un laberint institucional amb almenys tres autoritats competents diferents, cadascuna amb lògiques i procediments propis.
El projecte treballa a dissenyar, conjuntament amb la societat civil i les comunitats afectades, una guia per crear un sistema de reclamació accessible i sensible al dany col·lectiu. Avui aquest sistema no existeix ni a Espanya ni a la Unió Europea.
Per a les entitats del tercer sector, la inexistència d’un mecanisme de reclamació accessible és un problema operatiu real, no un debat acadèmic. Afecta processos on intervenen decisions algorítmiques: accés a prestacions, habitatge públic, llistes d’espera sanitàries, processos judicials. És la mateixa lògica per la qual una IA no és mai neutral quan decideix qui queda dins i qui queda fora: quan no es pot reclamar, el biaix de la decisió queda blindat.
Les organitzacions que treballen en incidència haurien de conèixer aquest projecte per incorporar-lo als seus marcs d’acció. Identificar quan una persona atesa ha estat perjudicada per una decisió algorítmica, i saber com exercir el dret a reclamar, hauria de ser una competència bàsica de l’equip tècnic.
Per què el laberint desanima abans de començar
El laberint de competències no és un detall jurídic menor: és el motiu pel qual moltes persones perjudicades per una decisió automatitzada acaben sense reclamar. Quan no se sap si la queixa va a una agència de protecció de dades, a una de competència o a la de supervisió de la IA, l’esforç desanima abans de començar. I el dany queda sense resposta.
Aquí les entitats que acompanyen persones tenen un paper concret: aprendre a reconèixer quan una decisió algorítmica ha perjudicat algú i saber on s’ha de dirigir la reclamació. No és una competència especialitzada reservada a juristes; és una eina de treball que pot marcar la diferència entre un dret reconegut sobre el paper i un dret exercible de veritat. És, en el fons, el dret a reclamar posat a prova.
Davant una decisió automatitzada que perjudica algú, el primer obstacle sovint no és la decisió, sinó no saber com exercir el dret a reclamar. El teu equip sabria acompanyar avui aquest dret?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
