La Comissió Europea ha allargat la consulta sobre les guies per classificar sistemes d’IA d’alt risc. El calendari es pot moure; la responsabilitat de les organitzacions, no.
Una pregunta prèvia a la de l’AI Act
Quan una IA pot afectar l’accés a un servei, una oportunitat laboral, una decisió educativa o la confiança d’una comunitat, ja no és només una eina eficient. És una decisió de governança. I aquesta condició no depèn que un reglament hagi entrat en vigor.
La pregunta útil per a una entitat no és només si un ús serà classificat com a alt risc segons l’AI Act, ara que la Comissió Europea encara afina les guies de classificació dels sistemes d’alt risc. La pregunta prèvia és més senzilla i més exigent: aquest ús pot afectar drets, accés, tracte, veu o confiança? A partir d’aquí es poden prendre tres decisions pràctiques sense esperar Brussel·les.
La primera és fer inventari dels usos sensibles. No és igual resumir documents interns que prioritzar casos, perfilar persones donants, automatitzar respostes en serveis d’atenció o ajudar a decidir qui accedeix a un recurs. La segona és classificar abans de fer el pilot, amb una mena de semàfor intern: usos acceptables, usos que demanen supervisió reforçada i usos que no s’haurien d’activar sense garanties molt clares.
La tercera és documentar qui respon. La supervisió humana no pot ser una frase en una política interna. Ha de quedar clar qui valida, qui pot aturar el sistema, quines dades s’utilitzen, com es revisen els errors i com s’explica l’ús de la IA a les persones afectades. Diverses entitats de drets digitals, com EDRi, recorden que rebaixar aquestes garanties surt car.
El semàfor intern: eina pràctica per a la gestió del risc IA
El semàfor intern és més útil del que sembla perquè obliga a conversar abans d’actuar. En verd hi caben usos com resumir documentació pública o preparar un primer redactat. En groc, els que demanen supervisió reforçada: traduir un informe sensible, analitzar respostes de persones participants. En vermell, els que no s’haurien d’activar sense garanties molt clares: perfilar persones donants, prioritzar qui accedeix a un recurs, automatitzar respostes en un servei d’atenció.
El valor d’aquest exercici no és la classificació en si, sinó la conversa que provoca. Quan un equip discuteix en quin color va cada ús, fa visible criteris que abans estaven implícits i repartits. Aquesta visibilitat val més que qualsevol política penjada al web que ningú no consulta. Pots llegir més sobre com gestionar la transparència IA ONG en el context de l’article 50.
Posar criteri abans d’escalar no és frenar la innovació; en organitzacions que treballen amb drets i confiança pública, és part de la missió. Quins dels usos que ja teniu en marxa passarien avui el vostre propi semàfor?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
