La IA i la supervisió humana han de funcionar en tandem a les entitats socials. Adoptar eines amb entusiasme sense protocol pot tenir un cost alt: errors amplificats, contractes signats sense revisió i decisions delegades a una màquina.
IA i supervisió humana: efìaç com un pilot automàtic, però mai el pilot
Per exemple, moltes entitats socials adopten eines d’IA amb entusiasme i sense protocol. El resultat, no obstant, pot ser car: errors amplificats, contractes signats sense revisió humana i decisions crítiques delegades a una màquina. En definitiva, la IA funciona com el pilot automàtic d’un avió: eficàç, precís i molt útil, però mai substitueix el pilot.
Tot i això, hi ha tres errors freqüents que es donen a les entitats. En primer lloc, introduir dades de persones ateses en eines generatives sense base legal. En segon lloc, publicar textos generats amb IA sense revisar el to, amb un resultat sovint paternalista. I finalment, signar documents redactats per IA sense validació jurídica. Si vols aprofundir en com tenir base crítica sense tecnofòbia, té molt a veure amb aquest tema.
La responsabilitat és sempre humana. La IA amplifica el que ja fas, per bé o per malament. Si els processos són sòlids, els fa més ràpids; si són febles, en multiplica les esquerdes. Per això la clau no és si utilitzar IA, sinó com governar-la.
Govern de la IA i supervisió humana: qui decideix i qui valida
Com a organització cal definir rols clars: qui supervisa, qui valida i quins processos necessiten revisió humana obligatòria. Sense aquest marc, la IA és un risc operatiu disfressat d’eficiència.
La metàfora del pilot automàtic ajuda perquè marca bé el límit. Ningú no esperaria que un avió volés sol sense ningú a la cabina, per molt avançat que sigui el sistema. Amb la IA passa igual: pot fer una part enorme de la feina, però la responsabilitat última i la capacitat de corregir quan alguna cosa no quadra continua sent de qui té el comandament.
El to paternalista dels textos generats sense revisar n’és un exemple ben concret. Una IA tendeix a parlar de les persones ateses com a receptores passives si no se li indica el contrari, i una entitat que publica aquests textos tal qual acaba projectant just el contrari del que defensa. Revisar el to no és un caprici d’estil: és una qüestió de coherència.
La diferència entre una eina útil i un risc operatiu sovint és només un protocol de revisió ben definit. Tens una política d’ús de la IA a la teva entitat, o de moment confieu en el bon criteri de cadascú?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
