En Estados Unidos se está discutiendo una ley federal de IA que podría sacar a los estados la capacidad de actuar frente a riesgos concretos. El caso abre una pregunta clave para la gobernanza de la IA que también afecta al tercer sector catalán. ¿Quién aporta la evidencia de qué ocurre cuando una IA falla?
Ninguna arquitectura de gobernanza de la IA es suficiente sin evidencia social
El debate estadounidense sobre una ley federal de inteligencia artificial ha abierto una tensión que vale la pena mirar de cerca. Un marco común puede dar claridad y seguridad jurídica. Pero el mismo marco, según se redacte, puede limitar la capacidad de los estados para responder ante riesgos concretos en privacidad, discriminación, infancia, trabajo o derechos de las personas consumidoras.
Para una entidad social, la lección útil no es elegir entre nivel estatal o nivel local. La lección es otra: una norma escrita lejos de dónde ocurren las cosas llega a menudo más tarde que el daño. Cuando una decisión automatizada deja a una persona sin un recurso y nadie puede impugnarla, el problema ya es real, haya o no un reglamento que lo nombre.
Las organizaciones que acompañan a personas, comunidades y servicios sensibles ven antes que nadie donde una herramienta puede fallar. Ven cuando un sistema trata datos vulnerables como si fueran datos neutros, cuando una promesa de eficiencia desplaza responsabilidad hacia quien tiene menos margen para reclamar. Esa mirada de campo es evidencia, y es precisamente lo que falta en la mayoría de debates reguladores.
El caso de Estados Unidos muestra también una realidad incómoda: la gobernanza de la IA no se decide sólo con argumentos técnicos. Entran intereses industriales, campañas y presión económica. Por eso las entidades con propósito no deberían llegar a la conversación sólo como usuarias de herramientas, sino con criterio propio: documentando casos y riesgos reales, exigiendo explicabilidad y vías de reclamación, defendiendo salvaguardias proporcionales cuando existen derechos en juego.
De la mirada de campo a la mesa de decisión
Esta evidencia de campo no se improvisa el día en que alguien la pide. Se construye con una práctica modesta y constante: anotar cuando una herramienta automatizada deja a una persona sin un recurso y nadie sabe explicar su porqué, recoger los casos en los que una decisión no se puede revisar, guardar los correos donde un proveedor no responde qué hace con los datos. Una entidad media que trabaja con personas migradas o con familias en riesgo de exclusión acumula, sin darse cuenta, un material que ninguna consultora puede generar desde un despacho.
Llevar este material a los espacios donde se decide, como una alegación a una consulta pública, una reunión con la administración, una mesa sectorial, es lo que convierte a una organización en un actor de la gobernanza de la IA, no sólo en una usuaria de herramientas. La misma lógica ( gobernar antes de automatizar ) debería guiar cada despliegue interno. Y es, a menudo, la única manera de que la norma recoja lo que de verdad ocurre cuando una IA toca derechos.
La capacidad de responder cuando una tecnología afecta a personas no puede improvisarse el día que la norma se cierra. ¿Qué parte de esa capacidad tiene hoy tu organización, y qué parte todavía depende de que otra persona la decida por ella?
✳ Este artículo se ha elaborado con apoyo de IA generativa. Revisión y responsabilidad editorial: Enric Guinart Mauri. Más información →
