Solución para medir la ética, equidad e integridad de los algoritmos de IA
Antecedentes
La IA presenta una serie de problemáticas que son inherentes a su construcción, comportamiento y resultados. Otro factor que se añade a esta problemática es el uso de la IA, cada vez más extendido, cubriendo todos los campos de conocimiento, sectores económicos, etc.
Con el uso cada vez más extendido de la IA, es importante resolver aspectos como la Ética, la Transparencia y la Equidad de los datos, algoritmos y sus predicciones.
El problema que queremos resolver es el siguiente: cuando una decisión es tomada por una máquina, deben cumplirse dos requisitos. El primero, debe haber un equilibrio entre el conjunto de datos utilizados y la programación del algoritmo que evite la discriminación y el sesgo, y proporcione la mayor equidad posible. El segundo, El algoritmo utilizado debe cumplir condiciones de transparencia, es decir, el resultado obtenido debe ser explicable a cualquier usuario de forma relativamente sencilla.
Retos
El desafío al que se enfrenta la Inteligencia Artificial es crear explicaciones que sean completas e interpretables y es difícil lograr la interpretabilidad y la integridad al mismo tiempo.
La aplicación de este modelo permitirá solucionar la explicabilidad y la integridad de cualquier decisión que tome un algoritmo de IA, ya no serán cajas negras y la decisión vendrá acompañada con una argumentación y justificación de esta que incluirá la ausencia de discriminación y sesgo.
Este modelo puede ayudar a asentar las bases de la certificación ética de los algoritmos de IA que toman decisiones.
Fases
La solución aborda un problema complejo. El proyecto se dividió en dos fases:
-Fase 1: Creación del modelo aplicando de forma secuencial técnicas de reducción de dimensiones para disponer de mayor cantidad de varianza posible de los datos. Para abordar la transparencia y la equidad. Para analizar la discriminación se aplicó el z-test y similares. Para analizar el sesgo se aplicaron técnicas de mapeo entre el vocabulario y los vectores.
-Fase 2: Revisión de los modelos predictivos. En esta fase analizamos dos modelos predictivos basados en IA. El primer modelo, recomendación de libros, afloró una desigualdad del 27,05% en la recomendación de mujeres con respecto a los hombres. En el segundo modelo, categorización de tickets del SAU de la Generalitat, detectó que los tickets incidentales se clasificaban de forma similar, 1% de diferencia, en cambio, los tickets no incidentales revelaron un bias idiomático del 15,2% debido a una falta de casos reales en los datasets de entrenamiento.
Nuevos Servicios
La solución define un servicio de explicabilidad y transparencia de los modelos predictivos basados en IA. Actualmente, este nuevo servicio está en pruebas analizando modelos predictivos de la Generalitat. El estado del arte de la ética de la IA se está asentando, bajo este paradigma estamos en constante observación y agregamos a nuestro modelo cualquier avance en este campo.
La aplicación de este modelo nos ha permitido mejorar los algoritmos predictivos, así como los datos de entrada (entrenamiento, test y validación) que se utilizan. Esa mejora se ha traducido, por ejemplo, en eficiencia en tiempo, reducción de la tasa de error, mejora en la clasificación de ítems, aumento de la velocidad de procesamiento y un incremento en la precisión de aquellos servicios en los que tenemos implantado soluciones basadas en IA.
Conclusiones
El modelo permite asentar unas bases para empezar a justificar las decisiones de los sistemas basado en IA y permite explicar qué realiza el algoritmo, el porqué de la decisión asegurando que todo el modelo es equitativo sin desviaciones o sesgos. Se ha demostrado la existencia de sesgos, discriminación tratamiento desigual y no equitativo en el resultado de los algoritmos que nos ha permitido reprogramarlos para corregirlos.
El desarrollo de este servicio lo podríamos definir como un producto innovador, posee características y atributos nuevos, la explicabilidad y la certeza de que la predicción cumple aspectos como la ética y la equidad tienen un impacto directo en el valor tangible percibido por el cliente.
A su vez, hemos transformado el modelo de relación con nuestro cliente, mejorando la experiencia, cambiando la forma en como generamos valor, como la confiabilidad en los modelos predictivos basados en IA.
Patrocinadores Premios @aslan 2023
Implantado en:
Centre de Telecomunicacions i Tecnologies de la Informació
Periodo de ejecución:
20/05/2021 - 28/02/2022
Socio tecnológico destacado:
