Il faut bien avouer que mon titre est assez trompeur. D’ailleurs, les titres des articles sur les causes de l’accident d’un véhicule Uber autonome avec une piétonne, décédée des causes de l’accident, indiquent tous que le véhicule a fait le choix de ne pas l’éviter. Ce n’est pas vraiment le cas puisque les capteurs du véhicule en question ont bien fonctionné mais n’ont pas reconnu une personne. Il s’agit d’un paramétrage, tout simplement, et malheureusement. En effet, un nombre infini de choses interviennent dans l’environnement d’un véhicule. Les capteurs détectent et l’IA est chargée de faire le tri dans les informations. Imaginez que si des feuilles tombent devant la voiture et que celle-ci se mette à piler au milieu de la chaussée, ce serait très dangereux en effet. La forme de la personne poussant son vélo à côté d’elle a été captée et analysée comme l’appelle le système, « un faux positif », comme des feuilles ou un sac plastique, ne nécessitant pas l’arrêt du véhicule. Ce dernier a en effet choisi de ne pas l’éviter mais en ayant été mal informé. Sans doute faudrait-il au moins ajouter un capteur infrarouge dans l’équation mais il ne s’agit évidemment pas d’un choix délibéré de ne pas éviter, et donc de tuer, un piéton.

Derrière cette sorte de manipulation médiatique, il fait noter plusieurs choses. Premièrement, la mise au point des systèmes autonomes est encore bien imparfaite et comme le précisaient les dirigeants de Toyota, il faudra encore au moins 1,6 milliards de kilomètres pour y parvenir ! D’autres, comme BMW estiment ce nombre à seulement 5 millions, ce qui semble bien trop réduit. Quoi qu’il en soit, la voiture automne annoncée pour 2020 est une absurdité même si celle-ci aura une grande part d’autonomie mais ne le sera pas totalement, d’autant que la loi n’autorise pas encore la conduite sans intervention humaine au volant. Et l’essai de nouveaux véhicules dotés de cette technologie (toujours en gardant les mains sur le volant) montrent qu’effectivement la mise au point a encore du chemin à parcourir. Deuxièmement, la configuration des lieux et les éléments de la scène de l’accident montrent que cette malheureuse piétonne traversait de nuit, dans une portion très peu éclairée, une voie rapide sans passage protégé. La police avait d’ailleurs écrit lors des premières constatations qu’un vrai conducteur au volant n’aurait pas pu l’éviter. Troisièmement enfin, la législation devra trancher un jour dans les algorithmes ! Assurances et constructeurs devront mettre au débat public les choix opérés par les logiciels. Devront-il préserver le conducteur ou le piéton ? Le débat semble se poser plus rapidement que prévu.

Certes l’histoire est dramatique mais l’on verra la suite judiciaire pour savoir quelles sont les réelles responsabilités. Pour l’heure, les systèmes ne fonctionnent que dans certains Etats ou pays ayant donné des autorisations pour mener des tests, ce qui confirme bien là le manque de mise au point, en dépit des effets d’annonce récurrents. Ethique et législation devront, là aussi, intervenir rapidement dans les paramétrages.

Il n’est pas trop tard…Mais presque !

Sylvain DEVAUX

Rédacteur en chef

« L’homme a la possibilité non seulement de penser, mais encore de savoir qu’il pense ! C’est ce qui le distinguera toujours du robot le plus perfectionné ».

Jean Delumeau

« Ceci est un article ‘presslib’, c’est-à-dire libre de reproduction en tout ou en partie à condition que le présent alinéa soit reproduit à sa suite. Larobolution.com est le site sur lequel Sylvain Devaux s’exprime quotidiennement et livre une vraie analyse du monde de la robotique à même de vous permettre d’en profiter. Merci de visiter mon site. Vous pouvez vous abonner gratuitement à la lettre d’information quotidienne sur www.larobolution.com. »

Pin It on Pinterest