"Le recours aux algorithmes est-il dangereux ?" en prenant 4 domaines (police, justice, santé et recrutement professionnelle)

« Le recours aux algorithmes est-il dangereux ? La police : Mon avis est mitigé sur le recours aux algorithmes dans la police, car elle est d’une grande aide pour reconnaître des mouvements et personnes suspectes, détecter des coups de feu et alerter rapidement la police en envoyant des images de l’individu.

Mais aussi que maintenant, la police patrouille tout d’abord dans les « hots spots » où un délit peut se produire grâce aux statistiques conçues grâce à l’historique des incidents sur plusieurs années.

On a pu constater qu’il y a eu une grande baisse au Etats-Unis grâce à cette technologie.

A Chicago, les fusillades ont baissé de 39 % entre janvier et juillet 2017, le taux de meurtres a également été réduit de 34 %.

Il existe trois autres districts pour lesquels cette technologie est effective et les taux de fusillades ont baissé de 15 à 29 % dans ces zones.

Le nombre de meurtres a quant à lui baissé de 9 à 18. Cependant, il ne faut pas trop en dépendre, car elle peut commettre des erreurs. Au Japon, ils ont mis des caméras « intelligentes » qui permettent de reconnaître des mouvements ou personnes suspectes, néanmoins, elle peut être involontaire.

Si un client a le malheur de sembler stressé, d’avoir un visage trop crispé, ou de faire un mouvement trop brusque, cela provoque alors une fausse alerte. Mais aussi, qu’elle présente des discriminations raciales et sexistes.

Une personne de couleur a plus de chance d’être « suspect » que les autres par la reconnaissance faciale.

Mais également que l’IA est très intrusive.

Pour prédire le « visage type » du criminel, elle doit s’appuyer sur des informations personnelles telles que les réseaux sociaux, les relations que la personne a et toutes les données disponibles du suspect sans consentement, mais aussi que tout le monde n’est pas au courant qu’un tel programme existe.

Donc il y a une violation de la vie privée (comme en Chine, à Xinjiang, pour les Ouïghours). La justice : Mon avis est aussi mitigé sur le recours aux algorithmes dans la justice car même si les algorithmes peuvent aider à la prise de décision, assister un juge lors de l’instruction d’un dossier, par exemple, en l’informant de tous les jugements rendus par les tribunaux français dans des affaires similaires et accélère ses recherches d’informations. En utilisant cette technologie, la justice n’est plus « humaine » et alors ne peut donner une « seconde chance » à la personne.

Elle peut aussi décourager de « tenter sa chance » pour avoir une peine ou une sanction moins lourde puisque ce sont les algorithmes qui déterminent seulement s’ils sont coupables ou non. Mais aussi que la « prédiction » algorithmique du résultat d'une affaire ne doit pas faire oublier que la justice se précise au cas par cas et que le/la coupable n’est pas jugé de la même façon, car ils peuvent reconnaître leur tort, avoir un bon comportement, se montrer sincère donc le juge peut être plus indulgent. Il existe aussi dans ces logiciels des discriminations, non pas raciales, mais, avec des critères d'appartenance sociale ou de lieu de résidence, et cela aboutit à enfoncer les populations défavorisées alors que la justice veut mettre de côté toute déterminismes sociaux. Or, habiter dans un milieu défavorisé constitue un « facteur de risque » selon l’algorithme puisqu’il y a plus de chance qu’une personne ayant un logement instable par exemple agresse quelqu’un qu’une personne « aisée ».

Alors, il sera condamné plus lourdement.

Par conséquent de l’inégalité. Santé : Mon avis est également mitigé sur le recours aux algorithmes dans la santé, car même si elle peut réduire les taux de faux positifs et de faux négatifs, améliorer la rapidité et la précision des décisions et apporter ainsi de meilleures chances de guérison, diagnostiquer des maladies rares,.... »