Tiempo de lectura: 2 minutos

En el corto plazo de tiempo en el que la IA ha pasado a formar parte de nuestras vidas (y sobre todo desde el momento que hemos empezado a convivir con aquella que denominamos como Generativa) hemos aprendido que también puede usarse para el aprendizaje automático y para actuar de soporte a la toma de decisiones.

En el primero de los posts de esta serie indicaba que la Inteligencia Artificial se puede emplear para solucionar problemas de gestión, y que son cada vez más los ámbitos en los que se están implementando soluciones en los que se busca generar un impacto positivo en los procesos y en la calidad del servicio. Un aspecto clave en el ámbito de las Administraciones Públicas y que no es una excepción la de la gestión de las Políticas Activas de Empleo.

En cualquier caso, no debemos olvidar que la creación de un sistema de toma y/o soporte de decisiones basado en la IA, no soluciona por sí mismo ningún problema ni resulta ser adecuado para, por sí mismo, responder a las demandas de los ciudadanos. Es una herramienta que nos proporciona información en forma de predicción, clasificación y/o segmentación, entre otras posibilidades, en el contexto de la formulación de una intervención o acción de naturaleza social. En la interrelación de estos factores es donde la IA adquiere valor.

Paralelamente debemos ser conscientes de que existen retos de carácter transversal (que pretender ser evitados por la reciente regulación de la UE sobre la materia) y entre ellos destacan los relativos a la transparencia, la gobernanza, la seguridad, la protección de datos, y la rendición de cuentas. Por último, están los retos relacionados con el diseño de las políticas públicas, los ámbitos y límites de la intervención y la aplicación de criterios de necesidad y proporcionalidad en su uso.

En resumen, en este proceso es clave el concepto de que la implantación de la IA y el diseño de los algoritmos ha de tener como guía la de minimizar los sesgos y las discriminaciones. Cómo se realiza el proceso de recopilación de datos es, a menudo, incluso más relevante que el resultado final. Y para ello resulta clave generar directrices que garanticen que los sistemas de IA no estén integrados con modelos directa o indirectamente discriminatorios.

Todos ellos aspectos que siendo relevantes en general adquieren incluso más relevancia cuando nos enfrentamos a problemas y necesidades vinculadas a la Gestión del Empleo y la de las Políticas Activas. En estos ámbitos adquieren una gran relevancia factores como los siguientes:

  • Generar un entorno que facilite la accesibilidad y transparencia en el desarrollo de los algoritmos.
  • Abrir la perspectiva dirigida a identificar y mitigar los riesgos discriminatorios y otros elementos de desigualdad durante la etapa de diseño con especial atención a las variables demográficas.
  • Implementar criterios e instrumentos que permitan conocer y evaluar en tiempo real los resultados para garantizar la calidad y la falta de sesgo en los datos.
  • Prestar atención a los análisis nacionales e internacionales dirigidos a evaluar los procesos de implantación de la IA en la gestión del empleo y específicamente en su aplicación a colectivos vulnerables.