Biais éthique

Cette vidéo explique ce qu'est un biais éthique et comment procéder pour éviter que vos politiques d'engagement soient entachées de biais indésirables.

Les tests de biais éthique vous permettent de vérifier que vos politiques d'engagement ne sont pas entachées de biais indésirables. En d'autres termes, vous pouvez vérifier que vos conditions ne sont pas discriminatoires par rapport à l'âge, au sexe, à l'origine ethnique ou à toute autre caractéristique propre à votre scénario métier.  

Une politique de biais éthiques constitue la base d'une simulation de biais éthiques. Cette politique englobe les champs de biais et les seuils pour chacun de ces champs. Vous pouvez inclure toute propriété de votre classe client. Par exemple, les propriétés d'âge et de sexe sont typiquement celles que vous devriez faire figurer dans les tests de biais.

L'âge étant une valeur numérique, on utilise un coefficient de Gini pour calculer le biais. Il s'agit d'une méthode permettant de mesurer l'inégalité statistique d'une distribution de valeurs. Un coefficient de Gini égal à 0 reflète une égalité de distribution parfaite. Vous pouvez sélectionner un seuil d'avertissement compris entre 0 (avertissement si le moindre biais est détecté) et 0,7 (avertissement uniquement si un biais très grave est détecté). Vous pouvez également choisir de ne pas vérifier la présence de biais pour un enjeu métier particulier.

Le sexe étant une valeur nominale, un rapport de taux est utilisé pour déterminer le biais éventuel. Un rapport de taux sert à déterminer les biais concernant les champs catégoriques, en comparant le nombre de clients qui ont été sélectionnés pour une action à ceux qui n'ont pas été sélectionnés, et en établissant une corrélation entre ces chiffres et la zone de biais sélectionnée.

Un rapport de taux égal à 1 reflète une égalité de distribution parfaite. Vous pouvez sélectionner un seuil d'avertissement compris entre 1 (avertissement en cas de détection de tout biais s'écartant de manière significative d'un rapport de taux de 1) et 0,50 - 2,00 (avertissement uniquement si un biais très grave est détecté). Vous pouvez également choisir d'ignorer ce type de biais pour un enjeu particulier de votre structure métier.

Même si un biais nul est l'idéal, il n'est pas pratique de fixer le seuil à ce niveau, car cela empêcherait toute action de parvenir jusqu'aux clients. Ainsi, dans les scénarios métier réels, un petit biais est souvent autorisé pour éviter que les clients ne reçoivent aucune action.