Tiempo de lectura: 3 minutos

Recordaros que esta serie está dedicada al análisis del proyecto que la La Fundación Once ha puesto en marcha el proyecto InclunIA que tiene por objeto incorporar a la Inteligencia Artificial en la gestión de los procesos de orientación y reclutamiento.

Una serie que incorpora las reflexiones que nos ha formulado Virginia Carcedo en el marco del proyecto Innova_Ergon 2024 dirigida al análisis del “impacto de la Inteligencia Artificial en la Gestión del Empleo y la de las políticas Activas de empleo”. Un informe que ya he analizado extensamente en este blog en la serie de post cuyas conclusiones y propuestas finales encontraréis en ____________

A continuación, encontraréis algunas respuestas sobre como afrontar la implantación de la IA con el objeto de conseguir una transformación social inclusiva y equitativa.

La implementación de la inteligencia artificial (IA) para alcanzar una transformación social inclusiva y equitativa enfrenta desafíos significativos que requieren atención prioritaria para garantizar su impacto positivo. Estos retos son fundamentales de abordar para construir un entorno donde la tecnología se convierta en un catalizador de igualdad y progreso. Los principales desafíos son:

  • Sesgos en los algoritmos: La IA puede perpetuar o incluso amplificar prejuicios existentes si los datos utilizados para entrenar los modelos no son diversos ni representativos. Esto ocurre porque los sistemas de IA replican patrones históricos presentes en los datos, lo que puede llevar a decisiones discriminatorias. Por ejemplo, en procesos de selección laboral, los algoritmos mal entrenados podrían favorecer a grupos que históricamente han tenido mayores oportunidades, dejando de lado a colectivos vulnerables.
  • Brecha digital: Muchas comunidades, especialmente en regiones desfavorecidas, carecen del acceso necesario para beneficiarse de las soluciones tecnológicas. Esta falta de conectividad, dispositivos o alfabetización digital profundiza las desigualdades existentes, limitando la capacidad de la IA para llegar a quienes más la necesitan y, en lugar de reducir la brecha social, puede ampliarla.
  • Privacidad y ética: La recopilación y uso de datos personales para desarrollar modelos de IA plantea serias preocupaciones sobre la privacidad. Además, el manejo de datos sensibles requiere el establecimiento de estándares éticos rigurosos para evitar abusos, garantizar la seguridad de la información y asegurar que se utilicen con un propósito claro y beneficioso para las personas.
  • Aceptación cultural: El miedo o desconocimiento de las tecnologías emergentes genera resistencia al cambio tecnológico en muchas organizaciones y comunidades. Sin una estrategia clara de comunicación, formación y participación de los usuarios, la adopción de la IA puede ser limitada, frenando su impacto positivo.

La Fundación ONCE asume estos desafíos desde el inicio del proyecto InclunIA, desarrollando un enfoque integral que prioriza la transparencia, la ética y la participación de todas las partes interesadas. Algunos de los pasos clave incluyen:

  • Romper las «cajas negras» de la IA: En InclunIA, hemos implementado cuadros de mando que permiten analizar en detalle los modelos de IA. Estas herramientas identifican posibles sesgos y patrones que podrían perpetuar desigualdades. Gracias a esta capacidad de análisis, reentrenamos constantemente los algoritmos para garantizar decisiones más justas, precisas e inclusivas. Este enfoque nos permite construir un sistema dinámico que se ajusta continuamente para ofrecer mejores resultados.
  • Creación de un comité de ética: Hemos establecido un comité especializado que supervisa de forma continua el uso de la IA dentro de InclunIA. Este comité evalúa las aplicaciones del modelo desde tres perspectivas principales: impacto social, implicaciones técnicas y alineación ética. Además, realiza auditorías regulares para garantizar que el sistema cumple con los valores de inclusión y equidad que definen a Fundación ONCE.
  • Plan de comunicación para la aceptación cultural: Reconociendo que la adopción de la IA puede generar resistencias, hemos diseñado un plan de comunicación integral enfocado en tres objetivos:

Por ello y como una parte fundamental del proyecto desarrollan una estrategia que pasa por:

  • Informar a la organización y a los usuarios: A través de talleres y materiales informativos, mostramos las oportunidades y beneficios de InclunIA, destacando cómo la tecnología puede facilitar el trabajo de los orientadores y mejorar la inclusión laboral.
  • Eliminar miedos y generar confianza: Con sesiones interactivas, respondemos dudas y desmitificamos percepciones erróneas sobre la IA, reduciendo el temor a la automatización y fomentando una relación positiva con la tecnología.
  • Fomentar un diálogo continuo: Hemos creado espacios para que los usuarios aporten sus experiencias, identifiquen posibles errores y propongan nuevos casos de uso. Este enfoque participativo nos permite no solo detectar fallos, sino también descubrir oportunidades para mejorar la aplicación del sistema.

Con este proyecto la Fundación ONCE está mostrando que los desafíos asociados a la implementación de la inteligencia artificial pueden transformarse en oportunidades. A través de la transparencia, la supervisión ética y la participación de usuarios y equipos, InclunIA pasa a ser un modelo de referencia para la creación de sistemas de IA más justos, inclusivos y responsables. Estos esfuerzos no solo mejoran la eficiencia de nuestras operaciones, sino que también aseguran que la IA sea una fuerza impulsora de transformación social positiva.