Existe una conversación sobre confianza pública en la IA que ya no se puede dejar sólo en el equipo técnico ni en el departamento legal.
La confianza pública en la IA no depende tanto de cómo lo expliquemos
Estos días coinciden tres señales que conviene leer juntos. La Comisión Europea ya concreta las obligaciones de transparencia de la AI Act para sistemas que interactúan con personas o generan contenido sintético.
Al mismo tiempo, los datos muestran una paradoja: crece el optimismo sobre la IA pero también el nerviosismo. La distancia entre lo que esperan los expertos y lo que percibe la ciudadanía sigue siendo muy alta.
Por ello, una reciente investigación añade una idea especialmente relevante: el apoyo o la resistencia a la IA no depende tanto de cómo describimos su funcionamiento como de valores previos, como la autenticidad o la preocupación por los impactos desiguales. Contar mejor la técnica no resuelve, por sí solo, la desconfianza.
Tres preguntas antes de automatizar
Para las entidades sociales, gobernar la IA significa poder responder antes de automatizar, publicar o desplegar: quién revisa, cómo se explica y qué pasa si falla. Estas tres preguntas no son un trámite: son la base de la legitimidad de quien trabaja con confianza e información sensible.
Por tanto, la confianza no sale de un relato tecnológico bien empaquetado. Sale de la capacidad de explicar criterios, límites y mecanismos de corrección con un lenguaje que las personas entiendan. Cuando una organización lo hace, la IA responsable deja de ser discurso y se convierte en legitimidad.
Quien debería sentarse en la mesa
Si el apoyo a la IA depende más de valores que de explicaciones técnicas, la consecuencia para una entidad es clara: no será suficiente con un apartado en la web que detalle qué modelos utiliza. Lo que generará confianza es poder decir, con un lenguaje comprensible, por qué se ha decidido utilizar una herramienta, qué límites tiene y qué ocurre si se equivoca.
Además, esta conversación implica dirección, comunicación y atención a la vez. Dejarla sólo en manos del equipo técnico o del departamento legal es confundir su cumplimiento con la legitimidad. El cumplimiento evita una sanción; la legitimidad mantiene su relación con las personas, los donantes y las comunidades.
En definitiva, la conversación sobre confianza pública en la IA implica dirección, comunicación y atención al mismo tiempo, no sólo sistemas. En tu organización, ¿quién debería sentarse en esta mesa que hoy quizás no esté suyo?
✳ Este artículo se ha elaborado con apoyo de IA generativa. Revisión y responsabilidad editorial: Enric Guinart Mauri. Más información →
