Informe Final PinkFairness

En esta sección se hace la descripción del caso de uso indicando el problema o tarea específica que se soluciona, proporcionando una visión general del mismo. Asimismo, se establece las necesidades y requisitos específicos del proyecto.

A continuación, se describe el análisis de los datos disponibles para la construcción del modelo

2.1 Recopilación de datos iniciales

Cual fue la manera en que se llevó a cabo el proceso de recopilación de los datos, indicando si los datos utilizados corresponden a toda una población o si son una muestra representativa de la misma, especificando el porcentaje que representan en relación a la población en cuestión. Además, identificar las razones por las cuales existen valores perdidos en los datos. Asimismo, indicar si los datos han sido sometidos a algún tipo de tratamiento o transformación, o si se encuentran en su formato original

2.2 Descripción de los datos

En esta sección se busca comprender la naturaleza y las características de cada atributo en el conjunto de datos. Esto implica examinar el tipo de dato, la escala de medición, el rango de valores posibles, la presencia de valores atípicos o perdidos, y cualquier otra información relevante relacionada con cada atributo

Estadística atributos ordinales y nominales

Estadística atributos continuos y discretos

Gráfico de Distribución de las Variables

2.4 Verificación de calidad de datos

En esta sección se determina que atributos deben ser intervenidos y como se debería realizar dicha intervención

La tabla muestra para cada variable de tu conjunto de datos, su nombre y tipo (numérico o categórico), el porcentaje de valores faltantes, el grado de diversidad de valores (porcentaje de valores únicos), y —cuando aplica— los valores mínimo y máximo observados; además incluye una columna de “DQ Issue” que señala incidencias de calidad (por ejemplo categorías con muy baja frecuencia o valores atípicos fuera de los límites del rango intercuartílico), para detectar dónde imputar, agrupar niveles infrecuentes, recortar outliers o retirar registros erróneos antes de entrenar los modelos.

En esta etapa los datos deben ser intervenidos con el fin de que tengan las representaciones adecuadas tanto del caso de uso que se está solucionando

Los métodos basados en filtros realizan pruebas estadísticas de clasificación univariada, que evalúan la relación entre características

Una dependencia elevada mediante estas métricas señala la necesidad de examinar si dichas variables actúan como indicadores indirectos de una relación y, en consecuencia, ajustar el proceso de preprocesamiento de los datos.

Prueba F de ANOVA

La prueba cuantifica si existe una dependencia lineal entre dos grupos de características y ayuda tanto a la selección de atributos como a la detección de posibles proxies.

Prueba de independencia chi-cuadrado (χ²)

Evalúa si existe una asociación estadísticamente significativa entre dos variables categóricas no negativas (por ejemplo, nivel educativo y grupo étnico).

Información mutua (IM)

Mide la cantidad de información compartida entre dos variables sean continuas o discretas capturando tanto dependencias lineales como no lineales.

Existen enfoques que permiten medir la diferencia que existe entre los grupos privilegiados y no privilegiados. El índice de Theil aplicado a la equidad en ML puede interpretarse como pruebas estadísticas de equidad evaluando si todos los individuos enfrentan "las mismas probabilidades" en términos de oportunidades. Valores altos sugieren que una parte significativa de los recursos está concentrada en pocas personas o grupos . Para determinar qué tan similares son dos distribuciones de probabilidad entre diferentes grupos sensibles se utilizó Jensen-Shannon Divergence. Para cuantificar cuánto se desvía una distribución de probabilidad de otra se aplicó se aplicó Kullback-Leibler Divergence con el fin de identificar si la transformación de los datos afecta de manera desigual a ciertos grupos sensibles. La paridad demográfica fue utilizada para evaluar si las etiquetas positivas son iguales entre los grupos sensibles.

Este informe presenta el análisis de equidad realizado sobre el dataset y los modelos evaluados.

El mapa de calor visualiza la matriz de correlaciones φK entre todas las variables del conjunto de datos, filtrando únicamente los pares con un coeficiente superior a 0.6. Las relaciones más débiles (φK < 0.6) se omiten, representándose en blanco para simplificar la interpretación. Cada celda coloreada refleja el grado de asociación no lineal o mixta entre dos atributos, los tonos rojizos (correlaciones moderadas) y los tonos verdosos (correlaciones más intensas). Un φK cercano a 1 se muestra en verde intenso, indicando que el par de variables que comparten patrones de variación significativos.

En esta fase se prueban las técnicas y algoritmos de ML más adecuados para abordar el problema en cuestión

4.2 Generación de un diseño de comprobación

La clasificación se trata de predecir etiquetas de clase dados los datos de entrada. En clasificación binaria, hay dos clases de salida posibles; por lo tanto se establece cual valor corresponde a la clase positiva y cual a la negativa, adicionalmente la métrica de rendimiento que se utilizará para definir el mejor de los modelos

4.3 Generación de los modelos

Cual es el comportamiento de los modelos generados para cada una de las técnicas seleccionadas y de las métricas de rendimiento definidas

Una vez establecido el modelo que se utilizará se procede nuevamente a realizar la evaluación de las métricas definidas, para revisar varios aspectos para comprender la calidad y el rendimiento del modelo

5.* Selección de métrica de equidad

Algunas de las métricas utilizadas para detectar la justicia en las decisiones que se toman, se soportan en el análisis de la matriz de confusión...

Integrar métodos de identificación y mitigación de sesgos en modelos de ML requiere una comprensión de los objetivos por el cual se requiere automatizar la toma de decisiones...

6.1 Preprocesamiento (Comprensión y preparación de los datos)

Consiste en ajustar los datos antes de iniciar el proceso de entrenamiento...

6.2 Procesamiento (Modelado)

En este caso los datos originales no se ajustan, sino que se optimiza un modelo para que además de ser preciso sea justo...

6.3 Post-procesamiento (Evaluación)

Estos métodos están encaminados a buscar la generación de resultados más justos.

Al finalizar el entrenamiento, se obtiene un conjunto de modelos construidos mediante intervenciones de equidad que cumplen con los criterios de la frontera de Pareto. Las métricas asociadas a estos modelos son analizadas para identificar las intervenciones más prometedoras, las cuales se considerarán en la recomendación final sobre las fases más apropiadas del proceso de machine learning para implementar dichas intervenciones.