És l’expressió que apareix a totes les polítiques d’ús de la IA: «supervisió humana». També és la que més sovint es queda en una frase buida, sense ningú al darrere que la faci real.
Una frase en una política no supervisa res
«Sempre hi haurà supervisió humana» s’ha convertit en la manera fàcil de tancar qualsevol conversa incòmoda sobre intel·ligència artificial. Sona responsable i tranquil·litza. Però supervisar no és una declaració: és una tasca concreta que algú ha de fer, amb temps, criteri i capacitat real d’aturar el que revisa.
Sense això, la frase només serveix per repartir la sensació de control, no el control. El Reglament Europeu de la Intel·ligència Artificial ja exigeix supervisió humana efectiva en els sistemes d’alt risc, però la llei marca el mínim; la pràctica real l’ha de construir cada organització.
La supervisió real comença per una pregunta que moltes organitzacions no s’han fet: qui, exactament? Un nom, no un departament. Aquella persona té temps assignat per revisar, o s’espera que ho faci a sobre de la seva feina?
Té autoritat per dir que no i aturar un procés, o només per suggerir? Si reviso jo mateix, amb pressa, el que jo mateix he generat, no hi ha supervisió: hi ha una firma.
També importa el moment. Supervisar després de publicar no és supervisar; és fer d’auditor del propi error quan ja no té remei. La supervisió útil passa abans que la decisió tingui efectes: abans d’enviar, de publicar, de classificar una persona o d’activar una acció.
I ha de ser proporcional: no cal el mateix nivell de revisió per a un resum intern que per a un contingut que afecta drets. Aquesta mateixa lògica de fer reals els principis, i no deixar-los en una frase, és la que ja vam treballar a propòsit d’El consentiment no és un formulari.
Forma o fons: què es revisa de veritat
Hi ha una diferència de fons entre revisar la forma i revisar el fons. Corregir l’estil d’un text generat és fàcil, i és el que sol passar.
Comprovar si aquell text exagera, exclou algú, tracta una persona amb condescendència o afirma coses que ningú no ha verificat és més lent, i és el que de veritat protegeix. La supervisió que només mira l’ortografia dona una falsa seguretat.
Quatre preguntes que fan real la supervisió humana
Fer-ho real no demana grans recursos, sinó decisions clares. Una organització té supervisió humana quan pot respondre, per a cada procés amb IA:
- Qui revisa, amb nom i cognom, no un departament
- Quan revisa: abans que la decisió tingui efectes, no després
- Amb quina autoritat: pot aturar el procés o només suggerir
- Amb quin abast: revisa el fons o només corregeix la forma
Una organització que pot respondre aquestes quatre coses té supervisió humana. Una que només té la frase té una promesa que es trencarà el dia que importi.
La pròxima vegada que llegeixis «amb supervisió humana» en una política, prova de preguntar qui, quan i amb quina autoritat. Si no hi ha resposta, ja saps quant val aquesta frase. La teva organització la podria respondre?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
