Débiaisage

Le débiaisage regroupe les méthodes visant à identifier et réduire les biais d’un système d’intelligence artificielle.

Trois moments d’intervention

Avant l’entraînement

rééquilibrage des données, correction des sous-représentations, documentation des manques

Pendant l’entraînement

contraintes d’équité intégrées à la fonction d’optimisation

Après l’entraînement

ajustement des seuils de décision par sous-population, filtrage des sorties

Limite

Il n’existe pas de définition unique de l’équité, et plusieurs définitions raisonnables sont mathématiquement incompatibles entre elles. Égaliser les taux d’erreur entre groupes et égaliser la valeur prédictive ne peuvent pas être obtenus simultanément, sauf cas particulier.

Débiaiser suppose donc de choisir explicitement quelle équité l’on vise, un arbitrage politique, que la technique ne tranche pas.

Voir aussi

• Biais algorithmique · Données d'entraînement · Explicabilité · Gouvernance de l'IA · Inclusion