El director general de la Agencia Española de Supervisión de la Inteligencia Artificial (Aesia), Ignasi Belda, aseguró en una entrevista publicada por el medio infoLibre que la inteligencia artificial (IA) transformará de forma estructural los procesos de gestión en las administraciones públicas, incluyendo áreas sensibles como el empleo y la asignación de beneficios sociales. Según Belda, este cambio no solo busca eficiencia, sino que también debe resguardar la equidad y la transparencia frente a posibles riesgos.
En su rol como entidad supervisora, la Aesia opera como un “coordinador central” del reglamento europeo de IA, lo que implica la vigilancia de sistemas considerados de alto riesgo. Entre ellos, se encuentran aquellos que participan en la evaluación de personas para acceder a servicios públicos, recibir subvenciones o postular a empleos en el sector estatal. Belda subrayó que la IA aplicada en estos casos puede, potencialmente, decidir quién recibe una ayuda, quién consigue un empleo o quién accede a un recurso determinado.
El directivo insistió en que uno de los ejes clave del trabajo de la agencia es asegurar que la IA no replique ni amplifique desigualdades ya existentes. “La administración pública es uno de los sectores donde más impacto puede tener la inteligencia artificial”, afirmó, haciendo alusión a que muchos de estos sistemas operan sobre decisiones con consecuencias directas para las personas.
Supervisión y riesgo en procesos sensibles
Aesia tiene la misión de velar por el cumplimiento de los principios establecidos en el reglamento europeo de inteligencia artificial, especialmente en lo que respecta a la transparencia, la trazabilidad y la supervisión humana. El marco legal establece categorías de riesgo para los sistemas de IA y aquellos que inciden en derechos fundamentales, como el acceso al trabajo o a prestaciones sociales, son clasificados como de alto riesgo.
Dentro de este marco, Belda explicó que todos los sistemas públicos que intervienen en decisiones con impacto sobre las personas deben ser auditados y validados. Uno de los desafíos es garantizar que los algoritmos sean comprensibles y no actúen como cajas negras, especialmente cuando están diseñados por proveedores externos. Para ello, es clave que “los humanos mantengan siempre el control y la responsabilidad”.
Además, destacó que “la IA se aplicará también en procesos de selección de personas”, una transformación que obliga a las instituciones a reflexionar sobre los criterios utilizados y cómo garantizar que los algoritmos no repliquen sesgos discriminatorios. En este sentido, la agencia trabaja en establecer guías que obliguen a los desarrolladores y organismos públicos a justificar cómo funciona cada sistema y con qué datos ha sido entrenado.
Innovación, pero con control humano
Uno de los conceptos reiterados por Belda es el de “sandbox” o espacios de experimentación seguros, donde se pueden probar sistemas de IA antes de su implementación definitiva. Estos entornos permiten a las administraciones y empresas innovar, pero bajo supervisión, con criterios éticos y sin exponer a los ciudadanos a consecuencias imprevistas.
La agencia se propone facilitar estos espacios como parte de una visión que no contrapone innovación y regulación. “La innovación se fomenta precisamente si se establecen reglas claras desde el principio”, sostuvo. Esta postura es relevante en el contexto del empleo público, donde la aplicación de tecnologías emergentes podría reconfigurar los perfiles requeridos, las formas de evaluación del talento y las políticas de contratación.
Belda también abordó el impacto que la IA podría tener en los roles laborales dentro del sector público. Señaló que muchas tareas automatizables podrían desaparecer, mientras otras más complejas cobrarán mayor importancia, como aquellas que requieren toma de decisiones informada o supervisión de sistemas inteligentes. Esto obligará a redefinir competencias, invertir en formación y revisar estructuras organizativas.
Una nueva cultura organizacional para la era de la IA
La incorporación de la inteligencia artificial en la administración no es solo una cuestión tecnológica. Implica, según Belda, una transformación cultural profunda que afecta a la gestión de personas, la toma de decisiones y la relación entre ciudadanía e instituciones. “La IA puede ayudar a eliminar sesgos si se diseña correctamente”, dijo, pero también advirtió que mal implementada podría tener el efecto contrario.
En este contexto, la confianza se convierte en un activo esencial. Las y los trabajadores públicos, así como la ciudadanía en general, deben comprender cómo opera la IA en sus interacciones con el Estado. Esto requiere transparencia, formación y participación en la definición de los criterios de uso. Por eso, la agencia busca establecer canales para dialogar con todos los actores involucrados, desde desarrolladores hasta sindicatos y organizaciones sociales.
Finalmente, Belda afirmó que el objetivo de la Aesia no es solo técnico, sino profundamente político y social: que la IA contribuya a una sociedad más justa, más democrática y más equitativa, sin dejar a nadie atrás en la transición tecnológica.
