Massa sovint la IA responsable continua sent més declarativa que operativa. I la dada és eloqüent: poques organitzacions poden dir clarament qui assumeix la responsabilitat dels riscos ètics.
De les promeses a la diligència deguda
El problema ja no és que moltes organitzacions no tinguin principis sobre IA. De fet, el problema és que massa sovint ningú no sap dir qui respondrà quan la IA s’equivoqui. Diverses fonts solvents coincideixen en aquesta alerta: la IA responsable continua sent, en massa casos, més declarativa que operativa.
Les xifres ho il·lustren. Segons informes internacionals, només una minoria d’organitzacions analitza l’impacte ambiental de la IA que fa servir, encara menys n’avalua l’impacte en drets humans, i poques poden identificar clarament qui assumeix la responsabilitat dels riscos ètics. Per tant, això pesa molt més en entitats que treballen amb confiança, drets i legitimitat.
Hi ha, a més, una conversa que ja no podem deixar fora: la cadena de dades. En aquest sentit, la IA es construeix sovint sobre treball invisible, amb condicions laborals i estàndards de transparència massa opacs. Adoptar IA sense mirar proveïdors, subcontractes i pràctiques de dades és externalitzar riscos i quedar-se només amb la capa més còmoda de la innovació.
Per això és més útil parlar de diligència deguda que de promeses: identificar impactes, prevenir-los, seguir-ne els resultats, comunicar què s’està fent i preveure remei quan alguna cosa falla. Aquesta és la diferència entre una política que queda bé i una governança que aguanta.
La cadena de dades: el cost invisible
La cadena de dades és la part més incòmoda d’aquesta conversa perquè queda lluny de la vista. De fet, la IA que una entitat fa servir s’ha construït sovint sobre treball mal pagat i poc transparent, en països i condicions que el contracte no menciona. Adoptar-la sense fer cap pregunta sobre l’origen és quedar-se amb la capa còmoda de la innovació i externalitzar-ne el cost.
Per a una organització que defensa drets laborals o justícia global, mirar aquesta cara del problema no és opcional: és coherència. I traduir-la en preguntes concretes al proveïdor com ara d’on surten les dades o en quines condicions s’han etiquetat, és la diferència entre una política que queda bé i una diligència que aguanta.
En definitiva, abans de desplegar IA, la pregunta útil és simple: podem demostrar qui respon, què mesurem i quines condicions exigim a qui ens la proveeix? La teva entitat ho podria demostrar?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
