Algorithmes, la fin du « délit de sale gueule » ? Je vous ai parlé récemment de la « soumission » de l’homme à l’Intelligence Artificielle qui se profile. Les algorithmes qui brassent et analysent des quantités de données peuvent facilement prendre le pas sur l’homme. Les diagnostics médicaux, pour certaines pathologies, sont bien plus performants par la machine que par l’homme. Il deviendra donc de plus en plus difficile de de pas suivre les recommandations données à moins de s’exposer à des risques ou de pouvoir en justifier pleinement la décision. Seulement, ces fameux algorithmes qui se nourrissent de quantité de données sur le net, peuvent parfaitement « déraper »…On se souviendra de Tay la « meuf du net » devenue raciste et défendant les thèses d’Hitler. Il ne s’agissait alors que d’un détournement opéré par des internautes qui avaient détecté que cette fameuse « nana cool » n’était qu’un chatbot.

Mais l’on sait aussi que lors de l’analyse automatique de données, l’effet statistique n’est pas à négliger, loin de là. Lors de l’analyse de rapports de police et de jurisprudence, une IA devant simplifier le travail de la justice conseillait un verdict systématiquement plus sévère pour des ressortissants étrangers…Ce sont ces « biais » tendancieux que souhaite déjouer le procureur de la ville de San Francisco, George Gascón. Il a expliqué  que son bureau va utiliser une technologie permettant de «retirer la couleur de peau de l’équation». Les verdicts devraient ainsi être plus « neutres » et se concentrer sur le faits et en aucun cas sur les préjugés raciaux. L’outil, qui arrivera le 1er juillet prochain, va censurer automatiquement les informations liées à la couleur de peau des suspects dans les rapports de police. Couleur des yeux, des cheveux, patronymes, lieux et quartiers pouvant donner des indications d’une origine disparaissent également de cette équation.

Cette IA a été créée par Alex Chohlas-Wood, de l’université de Stanford, sous forme d’une application Web utilisant plusieurs algorithmes. Sachant que la police de San Francisco a aussi exclu les systèmes de reconnaissance faciale, cette démarche éthique ne peut qu’être saluée. Le « délit de sale gueule » aurait donc trouvé à qui parler. Très bien même si tout ceci ne remet pas en cause le début de mon article concernant la soumission aux décisions de la machine…

Sylvain DEVAUX

Rédacteur en chef

«L’homme a la possibilité non seulement de penser, mais encore de savoir qu’il pense ! C’est ce qui le distinguera toujours du robot le plus perfectionné». Jean Delumeau

« Ceci est un article ‘presslib’, c’est-à-dire libre de reproduction en tout ou en partie à condition que le présent alinéa soit reproduit à sa suite. Larobolution.com est le site sur lequel Sylvain Devaux s’exprime quotidiennement et livre une vraie analyse du monde de la robotique à même de vous permettre d’en profiter. Merci de visiter mon site. Vous pouvez vous abonner gratuitement à la lettre d’information quotidienne sur www.larobolution.com»

Pin It on Pinterest