IA y Administraciones Públicas: algunas consideraciones básicas

La Inteligencia Artificial (IA) ha transformado enormemente el sector tecnológico (y todo lo demás) los últimos 5 años. Curiosamente, por un motivo o por otro, en esos cinco años este blog ha estado en pausa, así que apenas lo hemos tratado. Bien es cierto que la IA es un concepto relativamente abstracto, y que abarca una variedad de tecnologías que hemos tratado como la analítica predictiva o la ciencia de datos. Sin embargo, el elemento que ha popularizado esa IA, los Language Large Model (LLM), también llamados IA general, popularizados especialmente por Chat GPT cambian completamente el escenario.

Mi intención es, en la medida del tiempo y energías disponibles, acercarme al papel de la IA en las AAPP de la manera que he tratado de hacer esto siempre en el blog: a partir de rigor técnico, base empírica y metodología deductiva (en este caso) como una idea honesta. El motivo: hay una enorme cantidad de contenido sobre IA basándose en especulaciones, sobreentendidos o asunciones que desplazan realmente el foco a ámbitos futiles cuando no directamente desinformantes.

Algunos debates genéricos sobre la IA en las organizaciones actuales

En primer lugar hay que entender que hay un contexto general respecto a la ampliación del uso de la IA y el cambio de paradigma organizativo y laboral. Señalaría tres grandes debates someramente porque hay material de sobra y profundidad y rigor:

• El modelo de capitalismo de IA. El primer gran debate es el papel que juega la IA en las relaciones que supone entre capital intelectual y capital empresarial. La capacidad extractiva de los modelos de IA de reaprovechar conocimiento compartido en internet para reproducirlo sin ningún tipo de contraprestación económica amenaza la base de la economía basada en un recurso que era propio de las personas y que no podía explotar directamente sin contraprestación la organización. ¿Quién no ha visto (hasta la saturación) imágenes estilo Ghibli de las que el estudio no ha visto ni una perra gorda?
• Reemplazo o colaboración: la capacidad de automatización, reproducción y creación de nuevos contenidos sin necesidad de aportación humana, especialmente en los casos en los que ese trabajo es especialmente intelectual. Por otro lado, otra bibliografía, cuyo principal exponente es David Autor, considera que la oportunidad que supone la IA es la de reforzar a trabajadores con menos capacitación mejorando su posición en el sistema productivo.
• El cambio de modelo productivo. Dependiendo de la aproximación laboral nos encontraríamos con un sistema en el que habría un desplazamiento o eliminación de la mano de obra por la ocupación de sus tareas por la automatización, lo que obligaría a redefinir estructuras sociales. La otra opción sería la de cambiar el modelo productivo a través de una inserción menos traumática de la tecnología, mejorando la productividad sin afectar a la masa empleada.

Aspectos específicos del impacto de la IA en las Administraciones Públicas

Parte de estos debates tienen un encaje indirecto o limitiado en las AAPP. Por otro lado, algunas facetas tienen un efecto multiplicador del impacto de la tecnología en las AAPP. La tecnología en sí misma es un elemento disruptivo en las estructuras de poder, y estos cambios son especialmente severos en estructuras estables (básicamente el tema de mi tesis doctoral de hace ya, AY, 15 años). Así que la IA como tecnología supone un cambio de paradigma en lo público porque:

• Aumenta el ámbito de acción de la tecnología. Las AAPP habían asimilado muy bien los números (hacienda, seguridad social) y muy mal los textos. Digamos que la tecnología existente hasta ahora era más de ciencias que de letras. Los LLM cambian esta limitación.
• Ampliación de áreas de aplicación. Si podemos trabajar con textos, podemos aplicar la tecnología a cosas que antes no iban muy bien, como normativa, pliegos o atención al público.
• Complejidad y criticidad de los algoritmos. La mayor complejidad de los sistemas empleados dificulta una visión conjunta de su funcionamiento, limitaciones y sesgos, lo que aumenta el riesgo de disfunciones, especialmente considerando la poca transparencia de la mayoría de proveedores. Por otro lado, la mayor extensión de uso genera un alcance mayor de sus efectos tanto positivos como negativos.

Ámbitos de cambio de la IA en las Administraciones Públicas

La asunción de estas tecnologías, por lo tanto, genera un elemento disruptivo importante para las organizaciones públicas en tres dimensiones:

• En el ámbito interno se genera una redefinición del equilibrio entre políticos y empleados públicos y entre estos últimos en aspectos como nivel o ámbito de especialización.
• En el ámbito contextual, cambia la relación con los proveedores, especialmente las dedicadas al sector de la IA. Esto incluye no solo a las grandes tecnológicas, sino también a proveedores de servicios en aspectos de entrenamiento, parametrización, formación, etc. que toman un papel crítico en la definición de lo que se puede hacer y lo que no. En mi tesis (siento ser un poco más turra de lo presente) detecté la creación de coaliciones entre niveles superiores de la organización y proveedores tecnológicos aumentando el control y reduciendo la discrecionalidad y transferencia de conocimiento de perfiles más técnicos.
• En el ámbito externo, la ciudadanía se encuentra en parte como observadora del proceso, aunque tanto el papel del activismo en temas de algoritmos, como en la protección de derechos, debería definir los límites de aplicación de los sistemas.

Los actores implicados en la IA y la Administración Pública

En todo esto conviene revisar el papel de los diferentes actores implicados en este proceso de cambio

• Responsables políticos. Juegan el papel básico de definir los objetivos del cambio. También se encargan de fijar el resultado de acciones en las que la IA tiene un rol instrumental. Por otro lado, tradicionalmente han tenido un papel de dependencia con los empleados públicos respecto a qué y cómo pueden actuar, por lo que la IA es una opción de aumentar su poder.
• Los empleados públicos. Son los operadores de la organización y contribuyen a la definición y aplicación de reglas de actuación. Por un lado la IA puede remplazarles o, como diría Autor, aumentar su capacidad de acción. Por otro lado, siguiendo la obra de Crozier, los márgenes de discrecionalidad que tienen por su conocimiento específico se ven amenazados. Estos márgenes pueden ser beneficiosos (evitan el abuso de actores no legítimos) o perjudiciales (generan la burocracia)
• Empresas. Son actores que definen el elemento instrumental, pero, a la vez, se convierten en proveedores básicos de conocimiento y operatividad. Esto genera tanto una capacidad de captación de conocimiento y distribución (uno de los beneficios de la consultoría), pero a la vez de secuestro mediante su especificidad. Por otro lado, por su posición se convierten en actores clave para el desarrollo de estrategias del resto participantes.
• Ciudadanía. Debe de validar y orientar la decisión, ya sea mediante procesos electorales o mediante movimientos sociales o grupos de interés. Tanto la complejidad de la acción pública, como la de la tecnología, y las diferentes preferencias por modelos tecnocráticos o democráticos configurarán la agenda del modelo. Por otro lado, a modo reactivo, la exigencia de transparencia, responsabilidad y protección de derechos es el principal modelador de los límites de una tecnología que avanza a ritmo acelerado.

A partir de aquí

Este ha sido un pequeño esbozo de por qué la aproximación más habitual, pensada para organizaciones privadas, no encaja directamente con las AAPP. Como decía, estamos en un contexto de cambio profundo en el que el impacto de la IA en lo público es especialmente multiplicador. Como señalaba en su momento, la transformación digital (y aunque ya nadie use el término, esto lo es) tiene éxito si aporta valor a las partes implicadas.

Por otro lado, la diversidad y la complejidad de lo público hace que no se pueda hacer una respuesta rápida o fácil acerca de qué y cómo cambiará. Mi idea es acercarme a diferentes dimensiones de funcionamiento de las AAPP y ver como la IA les afecta. Espero poder sacar ratos para ello.