La voiture autonome d'Uber avait vu la piétonne mais pas le danger

Florian Innocente |

La responsabilité d'un accident mortel survenu en mars dernier, entre un prototype de véhicule autonome Uber et une piétonne, relève très probablement d'un défaut dans le logiciel qui détermine si le véhicule doit réagir après qu'un objet a été détecté.

Deux sources chez Uber ont expliqué à The Information que les capteurs de la Volvo d'Uber avaient bien repéré quelque chose devant la voiture. Cependant le logiciel a classé cet événement comme un faux positif. C'est à dire qu'il a bien vu un objet sur la trajectoire mais qu'il a considéré qu'il ne présentait pas de danger. Comme peut l'être par exemple un sac en plastique qui traverse la route.

La voiture a donc fauché à 61 km/h Elaine Herzberg, qui traversait cette artère de circulation en tenant son vélo à côté d'elle. La scène s'est déroulée le 18 mars à 22h, à Tampa en Arizona.

La voiture n'a fait montre d'aucune hésitation et quelques instants avant l'accident, l'unique personne présente dans l'habitacle, était concentrée sur quelque chose qui attirait son regard en dessous du volant et non sur la route. La conductrice n'a réagi qu'à l'instant précédent le choc.

D'autres informations, détaillées le même mois par le New York Times montraient que le niveau de sécurité des tests de voitures d'Uber était largement insuffisant.

Uber n'a pas commenté les éléments recueillis par The Information mais l'entreprise a annoncé qu'elle avait recruté l'ancien responsable du Conseil national de la sécurité des transports aux États-Unis de 2014 à 2017. Parallèlement, Uber a entrepris de remettre à plat tout son programme de conduite autonome, depuis ses systèmes embarqués jusqu'à la formation des conducteurs.


avatar rocroc7 | 

@Avenger

Je sui OK avec toi. Et pour aller dans ce sens , il faudrait comparer l’accident (toujours regrettable) de la voiture Uber automatisée avec le même cas s’il n’y avait eu qu’un humain au volant. L’humain aurait-il vu et eu le temps de réagir face à un piéton traversant de nuit hors des clous ?

avatar xDave | 

@rocroc7

La question n'est pas un humain aurait il évité l'accident mais plutôt un humain AURAIT-IL TENTÉ d'éviter l'accident.

Ça c'est la nuance essentielle !

si un humain conduit, à priori, il regarde la route contrairement aux assistés "autonomes" qui vont de plus en plus se laisser aller à des errements voire s'endormir au volant.

Donc
Soit il ralentit ;c'est quoi ce truc au loin?
Soit il tente un évitement/ freine
Soit il fait des appels de phares

Mais je doute qu'un humain se dise c'est un faux positif alors je fonce.

Un humain ferait un écart même pour un caillou ou un sac en plastique parce que son intelligence non artificielle va se dire mais si ce sac/lapin/etc se bloque dans mes roues/calandre/se colle sur mon pare-brise etc...

avatar Avenger | 

@ xDave

Faudrait-il encore que l'humain ne soit pas sous influence de l'alcool ou de médicaments, ne soit pas trop fatigué, ne soit pas occupé à donner un appel téléphonique ou écrire un sms, etc. Ou, tout simplement, rien ne peut garantir qu'un humain n'aurait pas regardé ailleurs au mauvais moment. Je doute qu'il existe un seul conducteur pour dire qu'il n'a jamais été distrait lors d'un trajet, qu'il n'a jamais été surpris par le comportement d'un piéton et/ou d'un autre véhicule, qu'il n'a jamais sous-estimé une situation.

Et faut aussi vraiment être stupide d'attendre qu'un humain, occupé à se laisser conduire par sa voiture autonome soit aussi vigilant que s'il conduisait.

Personnellement, si j'étais obligé d'avoir les mains sur le volant et de rester hyper vigilant, dans une voiture autonome (totale ou partielle), je préfèrerais encore de loin conduire même-même. Si je demande à quelqu'un de me lire un livre, ce n'est pas pour suivre la lecture du regard et tourner les pages.

avatar xDave | 

@Avenger

Oui évidemment le gars bourré etc.

Mais comme tu le dis à se laisser conduire on risque surtout de s'assoupir, être moins concentré.

En mode passager quoi

avatar C1rc3@0rc | 

«La question n'est pas un humain aurait il évité l'accident mais plutôt un humain AURAIT-IL TENTÉ d'éviter l'accident. »

Non en fait la question c'est: si le paramètre de tolérance de faux positif avait été mis au minimum, est ce que le véhicule aurait évité l'accident?

avatar anonx | 

Tu regardes à gauche puis à droite puis si pas de voitures ou voitures stoppées tu traverses... sur un passage piéton... bref la base de la vie dehors ?

Traverse n'importe où n'importe quand et n'importe comment tu limites tes chances pour rester en vie.

N'importe qui l'aurait écrasé...

avatar iVador | 

Les voitures autonomes vont permettre d’éviter les accidents liés à l’alcoolémie, aux stupefiants et à la fatigue. Même si le 0 mort est impossible à atteindre et que cette dame en a malheureusement fait les frais (mes pensées pour sa famille) , le nombre de victimes sera forcément réduit de manière drastique au bout du compte
Un seul accident ne doit pas tout remettre en cause

avatar John McClane | 

@iVador

Tout à fait d’accord.
Bien que dramatiques et insupportables, les morts dues à l’intelligence artificielle seront de toute façon moins nombreuses que celles actuellement dues aux humains (excès de vitesse, alcoolémie, cannabis, fatigue, inattention, mauvais réflexes, âge trop avancé, etc.).

avatar Matlouf | 

Certes. Mais ce n'est pas une raison non plus pour faire n'importe quoi, comme le fait Uber. Et franchement cela me ferait mal que cette racaille s'approprie une part conséquente du gâteau.

avatar Espcustom | 

En même temps on ne voit pas gd chose jusqu’à l’impact. C’est ps éclairé, donc ps de passage piéton?!
La femme sort de nul part avec son vélo. Pas sûr que qq1 au volant aurait vraiment pu l’éviter. Après la vidéo assombri peut être un peu plus.

Et j’ai pas l’impression que la piétonne ai vraiment regardé avant de traverser. Ne pas voir un XC60 avec ses phares arriver ça ne me parait pas normal.

avatar byte_order | 

le boulevard est en coubre et passe d'abord sous un pont, la visibilité n'est pas bien grande en pratique à cette endroit, cf StreetView

Reste le classement en faux positif sans autre forme d'action préventive.
Un humain ne l'aurait surement pas évité en effet, mais la nuance c'est que les chances qu'il aurait tenté de le faire (réduisant donc la vitesse de l'impact à minimum, premier facteur de mortalité routière) sont plus grande qu'ici.
Le logiciel d'Uber, lui, n'a eu aucune forme de doute à aucun instant.
Cela va surement servir de leçon, mais le plus gros prix à payer pour l'apprendre ne le sera pas par Uber.

avatar Paul_M | 

@Espcustom

En fait il y a une confusion entre le contexte de la conduite autonome comme produit, et comme expérimentation.
Si on arrive à un niveau satisfaisant de succès, que la technologie se généralise et est commercialisée, on pourra commencer à se pencher sérieusement sur la responsabilité des usagers de la route comme on le fait actuellement avec les voitures "normales" (le piéton était-il évitable ? est-ce que c'est de sa faute ? etc).
Sauf qu'on en est pas là. On en est au stade où des entreprises testent leurs voitures et collectent des données sur la route pour leurs systèmes qui ne sont pas finis. Il est inacceptable que des gens (même une seule personne !!) meurent dans des tests auquels ils n'ont pas accepté de participer. Non seulement le système d'Uber est défaillant puisqu'il confond des gens avec des sacs plastiques mais surtout le garde-fou qui sert à éviter les morts, à savoir ici la conductrice, est complètement inefficace puisqu'elle regarde ailleurs.
Pour moi il devrait y avoir 1) un audit des technologies d'Uber pour vérifier qu'ils mettent bien en place un système d'alerte puissant du conducteur dans leurs voitures de test si il est inattentif ne serait-ce qu'une seule seconde 2) un audit de leur système de recrutement des conducteurs de test pour vérifier qu'on embauche pas le chauffard du coin. S'il s'avère qu'ils font tout dans les règles, cette conductrice doit être condamnée, c'est malheureux mais son incapacité à faire son travail correctement à coûté la vie de quelqu'un, si ce n'est pas le cas, une révocation de leur autorisation à mettre sur les routes leurs voitures. Ça me parait être le minimum.

avatar Katsini | 

Accident terrible et navrant pour cette pauvre femme.
Cependant, ce fait divers ne doit pas remettre en cause l’interêt des véhicules autonomes qui restent encore perfectibles, mais qui seront présents dans notre utilisation quotidienne.
Par ailleurs, bien regarder avant de traverser une route, la nuit, dans un environnement obscure, doit aussi être une nécessité...

avatar PHX23 | 

Petite précision journalistique, le lieu de l’accident est Tempe en Arizona.

avatar Hoppy | 

Cet incident est bien regrettable il est vrai.
Cependant on peut constater que les capteurs de la Volvo avaient repérés quelque chose, la faute est donc du logiciel qui l’a classé comme sans importance. Pour ce qui est de la personne qui était dans la voiture, c’est clair qu’elle a aussi sa part de responsabilité.

avatar r e m y | 

@Hoppy

...incident regrettable...
On parle de la mort d'une jeune femme!! ?

avatar Cockring | 

@Hoppy

comme la personne décède qui n a pas regardé en traversant !

avatar 0MiguelAnge0 | 

Et dire que les gros boulets d’Uber font de la promo pour leur taxi volant: le prochain faux positive sera un immeuble....

avatar Espcustom | 

Ok. Mais toute cette technologie et toute cette philosophie n’empêchent pas et ne doivent pas se soustraire à être vigilants avant tout en tant que piéton !!

avatar pfurno | 

On dirait un titre du Gorafi ...

avatar Issou la chancla | 

Uber et ses voitures autonomes c'est à peu près aussi légitime qu'H&M qui se lance dans l'aéronautique.

avatar Avenger | 

Amusant, certains crachent leur venin sur Uber et sa technologie. Ils oublient l'accident encore plus stupide mais tout aussi mortel, arrivé avec une Tesla.
https://www.huffingtonpost.fr/2018/04/03/crash-mortel-dune-tesla-en-auto...
Le jour où les algorithmes seront au point, je pense qu'on ne pourra pas éviter une défaillance quelconque d'un capteur/caméra avec, à la clé, un risque d'accident plus ou moins sérieux. Quand je vois déjà le nombre élevé de voitures modernes, qui crament, suite à un court -circuit car une fouine ou autre rongeur est venu grignoter des câbles électriques. Je n'ose donc imaginer les conséquences qu'un fil partiellement endommagé pourrait causer.
Mais rien à faire, il me semble malgré tout évident que ces technologies permettront de diminuer drastiquement les accidents et donc le nombre de blessés ou morts.

avatar r e m y | 

@Avenger

Pour info, même si ça ne change pas grand chose, le "conducteur" de cette Tesla était un ingénieur d'Apple.
http://www.scmp.com/news/world/united-states-canada/article/2139785/tesl...

avatar Avenger | 

@ Remy,

Hmmm, serait-ce alors une Tesla à la sauce Apple? Cela expliquerait alors bien la défaillance!
Comme je suis médisant, oui, oui, je sais, je sais :)

avatar gela | 

@Avenger

Je me disais à peu près la même chose. Si Apple s'y met, à chaque mise à jour la voiture sera de plus en plus lente à réagir. Tel mon Mini 4, ?.
Ce ne sera pas 1 mort mais deux ou trois avant qu'elle ne s'arrête, ??

Pages

CONNEXION UTILISATEUR