És possible una IA sense biaixos al tercer sector? Sovint ens enlluernem amb les capacitats de la tecnologia, però com a entitats tenim una responsabilitat superior: no reproduir injustícies a través del codi.
L’ètica algorítmica és una praxi diària, no un exercici teòric
Si els algoritmes es nodreixen de dades esbiaixades, la comunicació d’una organització podria acabar excloent col·lectius que justament vol defensar. Per això, l’accessibilitat i l’ètica han de ser el centre de qualsevol estratègia digital.
No es pot implementar un chatbot que no entengui certes variants lingüístiques o que invisibilitzi realitats complexes. L’ètica algorítmica no és un exercici teòric: és una praxi diària, present en la tria de quines eines fem servir i en com n’auditem els resultats.
Una comunicació inclusiva, amb supervisió humana
La comunicació per a la transformació social ha de ser inclusiva per definició. Fer servir la IA per generar continguts accessibles, com subtitulació automàtica o descripcions d’imatges, és una victòria real, sempre sota una supervisió humana crítica que asseguri que ningú no queda enrere.
Detectar i corregir biaixos: el camí cap a una IA sense biaixos
Eliminar del tot els biaixos d’un sistema és difícil, potser impossible. Però una entitat sí que pot decidir com els detecta, com els corregeix i quins usos no activa fins que tingui prou garanties. Aquesta vigilància és, en si mateixa, una forma de defensar els drets.
Cap a una IA sense biaixos: la responsabilitat del tercer sector
La responsabilitat d’una entitat aquí és més alta justament perquè la seva missió és revertir desigualtats. Si fa servir sense criteri una eina entrenada amb dades esbiaixades, pot acabar excloent en la seva comunicació els mateixos col·lectius que defensa, i fer-ho amb l’aparença de neutralitat que dona la tecnologia. El biaix, vestit d’algoritme, sembla objectiu i, per això, és més difícil de veure.
La pregunta que cal fer-se
La pregunta no és si existeix una IA sense biaixos del tot, sinó si la teva organització està disposada a auditar-la amb la mateixa exigència amb què defensa les persones. Ho esteu fent?
Si voleu seguir aprofundint, podeu llegir també com treballem la governança abans d’automatitzar processos amb IA. A escala europea, el Reglament de la UE sobre intel·ligència artificial fixa ja requisits per detectar i mitigar biaixos algorítmics.
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
