L’algorithme qui minimise l’état de santé des Noirs américains

il doit y avoir une logique déduite de ce que permet de conclure l’algorithme mais elle semble n’etre plus que la fractalité du biais .

L’algorithme qui minimise l’état de santé des Noirs américains - Sciences et Avenir
▻https://seenthis.net/messages/807753

Le problème réel du programme est qu’il sous-estimait l’état de santé des patients noirs parce qu’il se fondait uniquement sur les coûts des soins générés dans le passé par les patients.

Or selon ce logiciel, les Afro-Américains présenteraient bien moins de risques que les personnes blanches. En conséquence, on leur prescrirait moins d’examens ou traitements médicaux. Le problème, c’est que ces données seraient en fait liées à un biais algorithmique, explique la revue Science.

En 2018, le Centre national des statistiques de santé expliquait que 9 % de la population vivait sans couverture maladie. Les soins de santé sont particulièrement difficiles d’accès pour eux, ce qui pousse beaucoup de gens à y renoncer.

Parmi ces 9 %, explique l’étude, les patientes et patients noirs sont surreprésentés : en raison de leur couleur de peau, ils subissent des discriminations et sont davantage exposés à la précarité. L’algorithme mis en cause par la revue Science aurait uniquement compris qu’ils dépensaient moins d’argent dans les soins de santé… mais il n’a pas pris en compte les raisons. Pour ce genre d’outils, « moins d’argent dépensé » équivaut en effet bêtement à « moins de problèmes de santé ».

#algorithme #santé #soin #racisme

Le problème n’est pas l’algorithme, mais bien les règles édictées par les commanditaires.

Les machines et processus ne font jamais que suivre leur programmation. Et les programmeurs programment en fonction des règles et contraintes dictées par le client.

Donc le client est raciste et probablement de très mauvaise foi s’il a dit que moins de dépenses = moins de besoins et non pas moins d’argent disponible.

Oui, il faut se garder de faire passer la critique de cette gestion statistique inhumaine sans pointer du doigt aussi ceux qui la mettent en œuvre en imposant leurs valeurs et leurs préjugés.