Amb els agents d’IA, el debat deixa de ser de productivitat. Quan una eina pot accedir a dades, activar processos o escriure a tercers, parlem de permisos i responsabilitat.
Del que pot fer una IA al qui respon quan actua
La pregunta ja no és quina IA fem servir, sinó què li hem deixat fer. Amb els agents, una eina pot accedir a dades, resumir informació sensible, activar processos, escriure a tercers o recomanar decisions. Això canvia la conversa: ja no parlem d’eficiència, sinó de permisos, responsabilitat i governança. Diversos estudis ja parlen d’una bretxa de control creixent a mesura que el desplegament s’accelera, i això afecta de ple les entitats socials.
El risc no és només que una IA s’equivoqui. El risc és no saber on està actuant, qui l’ha autoritzat, amb quines dades treballa i qui respon quan cal corregir. En el cas dels agents, la seguretat ja és una barrera real d’adopció. Per això hi ha tres preguntes que qualsevol equip directiu hauria de respondre abans d’escalar usos.
Tres preguntes abans d’escalar usos
La primera: tenim un mapa real dels usos d’IA dins l’organització? No només les eines aprovades, també les que ja s’utilitzen en comunicació, captació, atenció o gestió documental. La segona: sabem quins permisos té cada eina? Llegir no és el mateix que escriure; recomanar no és el mateix que executar; automatitzar una tasca interna no és el mateix que intervenir en una relació amb persones ateses o donants.
La tercera pregunta és la cadena de responsabilitat. Si una IA exposa dades, genera una resposta inadequada o pren una acció fora de context, l’organització no pot descobrir aleshores qui l’havia de supervisar. Aquesta cadena s’ha de definir abans, no després de l’incident, i hi ha marcs de polítiques d’IA que ajuden a fer-ho.
De recomanar a executar
El salt qualitatiu dels agents és que deixen de suggerir per començar a actuar. Un assistent que redacta un esborrany és una cosa; un agent que pot enviar el correu, modificar un registre o consultar una base de dades de persones ateses és una altra de molt diferent. La frontera entre recomanar i executar és precisament on una organització s’hi juga la responsabilitat, i sovint és invisible fins que algú la traspassa sense voler.
Per això el mapa d’usos i permisos no és un exercici burocràtic. És la condició perquè, el dia que alguna cosa falli, l’organització pugui dir qui ho havia d’autoritzar i qui ho havia de supervisar, en comptes de descobrir-ho enmig de l’incident.
Adoptar IA sense governança pot semblar eficiència; governar-la bé és protegir la missió. Sabries dir, ara mateix, quins permisos tenen les eines que la teva entitat ja fa servir?
✳ Aquest article s’ha elaborat amb suport d’IA generativa. Revisió i responsabilitat editorial: Enric Guinart Mauri. Més informació →
