Détecter la discrimination en IA sans connaître la cause

Des chercheurs proposent une méthode pour corriger les biais des algorithmes en les traitant comme des « opérations de symétrie brisée ». L'idée : un classifieur est juste si ses décisions restent identiques quand on inverse un attribut sensible (sexe, origine...) sans toucher aux vraies compétences. La solution utilise une pénalité dans la fonction de coût pour forcer l'algorithme à retrouver sa « symétrie » — comme redresser une balance penchée. Les tests montrent 90% de réduction des violations avec seulement 5% de perte de précision. C'est léger computationnellement, ne demande pas de modèle causal complexe, et marche sur n'importe quel attribut binarisable. Pratique pour les systèmes en prod qui n'ont pas le temps de mapper toutes les dépendances causales d'une décision. L'approche reste formelle : elle impose l'équité statistique, pas l'équité réelle. Un algorithme peut paraître « juste » et reproduire les inégalités du monde réel.