Europa simplifica regles d’IA i, alhora, fixa una línia vermella clara contra la IA imatge sense consentiment: la sexualització d’imatges i la creació de material d’abús. Importa més del que sembla.
Quan la IA imatge sense consentiment afecta la identitat d’una persona
La notícia rellevant d’aquests dies no és només que Europa simplifiqui regles d’IA. Al mateix temps, fixa una línia vermella clara. Prohibeix la sexualització d’imatges, les apps que generen nus falsos i la creació de material d’abús sexual infantil amb IA. Quan la IA entra en la imatge o la identitat d’una persona, el debat canvia. Deixa de ser d’eficiència i passa a ser de consentiment, protecció i resposta davant el dany.
Les dades acompanyen la preocupació. Els incidents vinculats a la imatge sintètica s’han més que duplicat des de 2022. Ja superaven el 14% dels casos registrats a finals de 2025. Hi ha una idea clau que es repeteix: la transparència no es resol amb una etiqueta. Ha de ser interpretable i útil, sobretot per als col·lectius més exposats.
Tres decisions per a entitats davant la IA i la imatge
Per a entitats socials i equips de comunicació, això es tradueix en tres decisions concretes. Definir usos prohibits o altament sensibles abans de provar eines. Establir regles clares de validació i avís quan la IA generi o alteri continguts. I tenir un protocol de retirada, explicació i reparació si hi ha perjudici.
Aquestes decisions són especialment urgents per a entitats que treballen amb infància, violència de gènere o protecció de dades. Treballen amb persones en situació de vulnerabilitat. Una imatge manipulada pot causar un dany difícil de reparar.
Que els incidents amb imatge sintètica s’hagin més que duplicat no és una estadística llunyana. Toca directament a qui treballa amb persones. Per a una entitat que acompanya víctimes de violència de gènere, el risc és immediat. El mateix val per a qui protegeix dades d’infants. La possibilitat que una imatge real es manipuli sense consentiment no es pot ignorar. Davant d’aquest risc, l’entitat no pot anar a remolc.
Definir per endavant què no es farà mai és la millor protecció. Per exemple: no alterar la cara o el cos d’una persona. Tampoc generar imatges que es puguin confondre amb reals sense avisar. Això és més eficaç que qualsevol revisió posterior. I tenir un protocol de retirada i reparació previst és clau. Permet respondre de pressa el dia que calgui, abans de necessitar-lo.
La IA responsable també es juga aquí: a saber on no tot s’hi val amb la IA imatge sense consentiment, com s’explica i qui respon. La teva organització té definit el seu línit abans de provar la propera eina d’imatge?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
