Confier nos décisions à des algorithmes a deux effets majeurs. Le premier est celui de la précision et de l’efficience, incontestable car l’analyse d’une quantité de données extrêmement importante reste sans erreur. Le second, c’est effectivement de nous conformer dans un « moule » prédéfini et de ne pouvoir en sortir, ceci en utilisant allègrement vos données personnelles, bien entendu.

Les Etats-Unis, s’ils fustigent l’espionnage Russe qui ressemble, il est vrai, à un film des années 70, ne sont pas en reste en ce qui concerne ce même espionnage. Pendant 6 ans, à la Nouvelle Orléans, l’entreprise Palantir a mis à la disposition des services de police de la ville son logiciel de prédiction des crimes. Nous sommes presque dans Minority Report avec Tom Cruze et le logiciel « Precrim » ! Ici, cela s’est fait en secret, sans que les habitants ne soient au courant de l’exploitation de leurs données. Une pratique dénoncée par un élu qui a découvert le pot aux roses.

Dans cette vilaine histoire, on pourrait se dire « et si cela fait baisser la délinquance et la violence…pourquoi pas ». Oui, mais. Le mais c’est tout de même la liberté de chacun mais c’est aussi le résultat qui laisse pantois. D’abord la criminalité n’a pas baissé mais les personnes qui ont été identifiées par le logiciel ont été plus souvent arrêtées lorsque se produisaient des incidents près de chez eux. Le « délit de faciès » ou tout ce que vous voulez a donc prédominé, montrant une nouvelle fois si cela était encore nécessaire que le profilage sur des données personnelles est une bêtise qui peut aussi nous amener doucement au totalitarisme.

Imaginez, un système de santé qui analyse vos comportements et gère vos soins en fonction de ceux-ci. Vous allez dans votre restaurant préféré et payez en carte bancaire. Le système détecte que vous avez mangé trop riche et bu de l’alcool et vous prive de remboursements de santé pendant un mois. Un scenario tout à fait possible qui fait froid dans le dos. Cette restriction analytique a deux effets : Elle ne laisse aucune place à la liberté, à la différence et elle propose un mode de société totalitaire. Un mot trop fort ? Pas certain lorsque l’on évoque la santé, les décisions de justice, les banques et bien d’autres domaines encore qui deviendraient gérés par des algorithmes….

Il n’est pas trop tard…Mais presque !

« L’homme a la possibilité non seulement de penser, mais encore de savoir qu’il pense ! C’est ce qui le distinguera toujours du robot le plus perfectionné ».
Jean Delumeau

« Ceci est un article ‘presslib’, c’est-à-dire libre de reproduction en tout ou en partie à condition que le présent alinéa soit reproduit à sa suite. Larobolution.com est le site sur lequel Sylvain Devaux s’exprime quotidiennement et livre une vraie analyse du monde de la robotique à même de vous permettre d’en profiter. Merci de visiter mon site. Vous pouvez vous abonner gratuitement à la lettre d’information quotidienne sur www.larobolution.com. »

Pin It on Pinterest