Tiempo de lectura: 2 minutos

En el primero de los post de esta serie planteaba que la presencia de sesgos en la gestión de la IA es una de las cuestiones básicas que proponen sus objetores cara a reducir su aplicación de forma amplia en muchas actividades humanas.

Las respuestas posibles son diversas, aunque desde mi punto de vista no cabe exigir responsabilidad alguna a la propia tecnología. En esta serie de diálogos que estoy desarrollando con ChatGPT estoy constatando como la propia Inteligencia Artificial propone estrategias y recomendaciones dirigidas a mitigar la presencia y la relevancia de los sesgos en su propia gestión.

He aquí desde su propia perspectiva alguna de ellas.

  • Recopilación y revisión de los datos: Debemos asegurarnos de que “los conjuntos de datos utilizados para entrenar modelos de IA sean representativos de la diversidad de la población a la que se aplicará el modelo” Necesitamos analizar la calidad de éstos e identificar y corregir los errores que se pueden generar por aspectos relacionados con la representación de los diferentes colectivos que conforman una determinada población e identificar la equidad e imparcialidad entre los diferentes subgrupos.
  • Transparencia y explicabilidad: Es necesario diseñar e implementar modelos que sean comprensibles y transparentes, permitiendo a los desarrolladores y usuarios entender cómo se toman las decisiones. Ello supone proporcionar información detallada sobre los razonamientos que existen detrás de cada una de las predicciones y recomendaciones que realiza.
  • Participación diversa: Debemos permitir que diferentes tipologías de personas participen en el proceso de desarrollo de la IA, desde la concepción hasta la implementación. Necesitamos incorporar elementos que permitan la “retroalimentación de diversas comunidades y partes interesadas para tener una perspectiva más completa”.
  • Pruebas, regularización y ajustes: Es imprescindible realizar “pruebas exhaustivas del modelo en diferentes escenarios y con datos variados para identificar y corregir sesgos” Lo que supone desde simular casos de uso, evaluar cómo el modelo responde a situaciones diversas, e implementar técnicas de regularización y control tanto en el proceso de entrenamiento como en la ejecución del mismo.
  • Criterios relativos a cuestiones éticas y de responsabilidad: Supone incorporar “principios éticos y consideraciones de responsabilidad en el desarrollo de IA para garantizar que los sistemas sean utilizados de manera ética y equitativa”.
  • Respecto al marco regulatorio: La existencia de un marco regulatorio y ético para la IA puede ayudar a garantizar que los algoritmos sean desarrollados y utilizados de manera responsable y justa. Esto incluye establecer pautas y estándares para la transparencia, la equidad y la responsabilidad en el desarrollo y uso de la IA, así como implementar mecanismos para hacer cumplir estos estándares.

Definitivamente, los sesgos en la inteligencia artificial son un problema complejo y multifacético que requiere una atención cuidadosa y soluciones innovadoras. Al abordar las fuentes de sesgo en los datos de entrenamiento, en el desarrollo de algoritmos y en la implementación de la IA y en el establecimiento de unos marcos regulatorios y éticos sólidos garantizamos que ésta se utilice de manera justa y equitativa para el beneficio de todos.

Un requerimiento que es básico en el control humano sobre la IA. Sin embargo no podemos limitar su desarrollo por estas causas. Recordemos que no es posible poner puertas al campo.