Tener base crítica ante la inteligencia artificial no significa decir que no. Quiere decir, por tanto, dejar de preguntar sólo qué puede hacer una herramienta y empezar a preguntar para qué la queremos.
Base crítica e inteligencia artificial: la decisión que cuenta
Base crítica no es decir que no en la IA. En cambio, es cambiar la primera pregunta. Dejar de preguntar sólo qué puede hacer esta herramienta y empezar a preguntar para qué queremos utilizarla, con qué datos, quién revisará el resultado, si puede afectar derechos o recursos, y si lo podemos explicar a las personas afectadas. Por tanto, la base crítica ante la inteligencia artificial comienza con criterios, no con herramientas.
En efecto, en el tercer sector, la IA no puede incorporarse sólo desde la fascinación tecnológica. La fascinación es una mala consejera cuando hay derechos de por medio, porque tiende a saltarse las preguntas incómodas para llegar antes al resultado lucido. Además puede generar dependencia de sistemas que no entendemos ni controlamos.
Es necesario incorporarla desde la misión. Una herramienta entra bien en una organización cuando responde a una necesidad bien definida y cuando el equipo puede decir, con claridad, qué va a hacer y qué no. Esta claridad no la da el proveedor: la mujer la organización que sabe por qué existe.
Por ejemplo, la IA responsable no comienza con una herramienta. Empieza con una decisión bien formulada. Y formular bien un problema, en ocasiones, es la mitad de la solución. Tal y como señala la Mesa del Tercer Sector , las entidades deben poder explicar por qué usan cada tecnología.
Cómo incorporar la IA desde la misión de tu entidad
La fascinación tecnológica tiene un coste concreto: hace saltar las preguntas incómodas para llegar antes al resultado lucido. Una entidad deslumbrada por una herramienta tiende a probarla primero ya pensar después si afectaba a derechos, si los datos podían entrar, si había que avisar a alguien. Cuando el mandato se invierte, los errores llegan antes que el criterio.
Incorporar la IA desde la misión significa, en consecuencia, que cada nuevo uso pasa por una pregunta sencilla: ¿esto nos ayuda a hacer mejor lo que ya hacemos? Para complementarlo, puede ser útil leer sobre la IA en el tercer sector como oportunidad ética .
La diferencia entre adoptar IA con criterio o con prisa a menudo cabe en una sola pregunta bien hecha. ¿Cuál debería hacerse tu entidad antes de activar la siguiente herramienta?
✳ Este artículo se ha elaborado con apoyo de IA generativa. Revisión y responsabilidad editorial: Enric Guinart Mauri. Más información →
