La bombe mathématique

La bombe mathématique

Article original ici.

Le livre est dont il est question dans l’article Weapons of math destruction (Cathy O'Neil, 2016) est reconnu et semble intéressant. Je ne lai pas encore lu en détail. L'article est, pour une fois, bon. Il faut des images pour que le public comprenne et décrire le code comme "une opinion formalisée" n'est ni idiot ni faux.

Par contre, l'image de la "boucle de rétroaction" est, à mon avis, mauvaise. Un algorithme n'invente pas (sauf cas contrôlé et très spécifique), il applique efficacement et bêtement ce qu'on lui a dit. Dans le cas souvent cité de la probabilité de récidive d’un condamné, aux USA, si l'âge du premier contact avec la police est un critère de décision pour l’algorithme, alors il l'utilise. Il se trouve que dans ce pays, un jeune Noir a beaucoup plus de risques de se faire interpeller même sans raison qu’un jeune Blanc. De fait, pour l’algorithme, il est clair que les Noirs seront jugés beaucoup plus susceptibles de récidiver que les Blancs. Le problème est social, et l’ingénierie mathématique peut le prendre en compte - ou pas. La décision doit être humaine.

Le critère est mauvais et fige une réalité sociale qu'on souhaite combattre ? Alors il faut adapter le modèle (=la représentation de la réalité pour l'algorithme) et être plus fin : pondérer, amender, complexifier. Observe, orient, decide, act. Then repeat or modify.

Dans certains cas ce ne sont pas des biais mais la réalité observée, cruelle, en dehors de toute explication ou de tout humanisme. Veut-on répéter les conséquences ou agir sur les causes ? Mettre à jour les causalités ? Ici, le modèle doit jouer son rôle.

Thomas GerbaudComment