Ética en IA y aplicaciones reales

📐 Fundamento

Fuentes de sesgo en sistemas de IA:

1. Sesgo en los datos de entrenamiento:

# Ejemplo: dataset de contrataciones históricas
# Si históricamente se contrató más a hombres en ingeniería...
df = pd.DataFrame({
    'genero': ['M','M','F','M','M','F','M','M','F','M'],
    'experiencia': [5, 3, 7, 4, 6, 8, 2, 5, 6, 3],
    'contratado': [1, 1, 0, 1, 1, 0, 1, 1, 1, 0]  # sesgo histórico
})

# El modelo aprenderá que ser hombre es predictivo del éxito
# aunque la causa real sea la discriminación, no la competencia
modelo = DecisionTreeClassifier()
modelo.fit(df[['genero', 'experiencia']], df['contratado'])
# → el árbol probablemente coloca 'genero' cerca de la raíz

2. Sesgo de representación: algunos grupos están subrepresentados en el training set.

3. Sesgo de medición: el proxy que usamos no mide lo que queremos medir. Ejemplo: usar el código postal como proxy de riesgo crediticio → proxy para raza o nivel socioeconómico.

4. Sesgo de confirmación en el diseño: el equipo diseña el sistema con supuestos no examinados.

5. Feedback loops: el modelo toma decisiones que afectan los datos futuros, reforzando el sesgo. Ejemplo: un sistema que envía más policías a barrios pobres → más arrestos en esos barrios → más datos de crimen en esos barrios → el modelo los clasifica como más peligrosos.

Casos reales:

📐 Fundamento

Definiciones de fairness:

1. Demographic Parity (paridad demográfica): La tasa de predicciones positivas es igual para todos los grupos:

donde $A$ es el atributo sensible (género, raza, etc.)

2. Equal Opportunity: La tasa de verdaderos positivos (recall) es igual para todos los grupos:

3. Equalized Odds: Tanto recall como false positive rate son iguales para todos los grupos.

4. Individual Fairness: Individuos similares en features relevantes reciben predicciones similares.

from sklearn.metrics import confusion_matrix

def metricas_fairness(y_true, y_pred, atributo_sensible, grupo_0, grupo_1):
    mask_0 = atributo_sensible == grupo_0
    mask_1 = atributo_sensible == grupo_1
    
    # Tasa de positivos predichos
    ppr_0 = y_pred[mask_0].mean()
    ppr_1 = y_pred[mask_1].mean()
    print(f"Tasa predicciones positivas — {grupo_0}: {ppr_0:.2%}, {grupo_1}: {ppr_1:.2%}")
    print(f"  Disparate Impact: {ppr_1/ppr_0:.2f} (ideal: 1.0, alerta si <0.8)")
    
    # Equal Opportunity (TPR por grupo)
    for mask, nombre in [(mask_0, grupo_0), (mask_1, grupo_1)]:
        tn, fp, fn, tp = confusion_matrix(y_true[mask], y_pred[mask]).ravel()
        tpr = tp / (tp + fn)
        fpr = fp / (fp + tn)
        print(f"  {nombre}: TPR={tpr:.2%}, FPR={fpr:.2%}")

# Usar con nuestro dataset:
metricas_fairness(y_test, y_pred, df_test['genero'], 'F', 'M')

Disparate Impact: Si la tasa de predicciones positivas para el grupo desfavorecido dividida entre la del grupo favorecido es < 0.8, hay evidencia legal de discriminación (regla del 80% del EEOC en EE.UU.).

El teorema de imposibilidad (Chouldechova, 2017):

Si hay desbalance en la prevalencia real entre grupos (diferente proporción de positivos verdaderos), no es posible tener simultáneamente:

• Paridad en PPV (Positive Predictive Value)
• Paridad en FPR
• Paridad en FNR

La elección de qué métrica priorizar es un juicio de valor, no técnico.

📐 Fundamento

Técnicas de explicabilidad:

Feature importance del árbol de decisión:

import pandas as pd
import matplotlib.pyplot as plt

importancias = pd.Series(
    modelo.feature_importances_,
    index=X.columns
).sort_values(ascending=False)

importancias.plot.bar()
plt.title('Importancia de features')
plt.ylabel('Importancia (Gini)')

SHAP (SHapley Additive exPlanations):

Basado en teoría de juegos — calcula la contribución de cada feature a cada predicción individual.

import shap

# Para árbol de decisión o random forest
explainer = shap.TreeExplainer(modelo)
shap_values = explainer.shap_values(X_test)

# Gráfico de impacto de features globalmente
shap.summary_plot(shap_values[1], X_test)

# Explicación de una predicción individual
shap.force_plot(
    explainer.expected_value[1],
    shap_values[1][0],  # primera instancia del test set
    X_test.iloc[0]
)
# Muestra: "El gasto_total (+2.3) y la frecuencia (+1.1) 
#           fueron los factores principales para predecir 'postre: sí'"

LIME (Local Interpretable Model-Agnostic Explanations):

Aproxima el modelo complejo con un modelo simple (lineal) en el vecindario del punto a explicar.

from lime import lime_tabular

explainer = lime_tabular.LimeTabularExplainer(
    X_train.values,
    feature_names=X.columns,
    class_names=['No postre', 'Sí postre'],
    mode='classification'
)

exp = explainer.explain_instance(X_test.iloc[0].values, modelo.predict_proba, num_features=4)
exp.show_in_notebook()

Modelos inherentemente explicables vs caja negra:

El tradeoff explicabilidad-precisión: En contextos de alto riesgo (medicina, justicia criminal, crédito), la regulación puede requerir modelos explicables aunque sean menos precisos.

📐 Fundamento

EU AI Act (2024) — primera ley de IA del mundo:

Clasifica los sistemas de IA por nivel de riesgo:

GDPR y derecho a la explicación: Los ciudadanos de la UE tienen derecho a no ser sujetos de decisiones completamente automatizadas que les afecten significativamente, y derecho a recibir una explicación.

Principios de la IA responsable (NIST AI RMF, IEEE, Google, Microsoft):

1. Equidad (Fairness): No discriminar por características protegidas.
2. Confiabilidad y seguridad (Reliability & Safety): Funcionar correctamente y sin dañar.
3. Privacidad (Privacy): Respetar y proteger los datos personales.
4. Inclusión (Inclusiveness): Considerar a todos los grupos.
5. Transparencia (Transparency): Ser comprensible y auditable.
6. Responsabilidad (Accountability): Que haya humanos responsables de las decisiones.