Uber suspend ses voitures autonomes après un accident mortel

Nicolas Furno |

Un prototype de véhicule autonome conçu par Uber a tué un piéton hier à Tempe, en Arizona. Une femme de 49 ans a été percutée par l’un des SUV Volvo modifiés par l’entreprise spécialisée dans les VTC et elle est morte des suites de ses blessures. Uber a immédiatement interrompu son programme de voitures autonomes en Amérique du Nord, au moins le temps que l’enquête arrive à son terme et livre ses conclusions.

Le véhicule impliqué dans l’accident (photo ABC15).

On sait néanmoins déjà que le véhicule était bien en mode conduite autonome quand l’accident a eu lieu. On sait aussi qu’il n’a pas ralenti du tout et qu’il a foncé sur le piéton à 40 mph (environ 65 km/h), probablement parce que l’ordinateur de bord ne l’a pas détecté. L’accident s’est produit pendant la nuit et la victime traversait a priori la route sans emprunter un passage piéton et les premiers retours suggèrent qu'elle est sortie brutalement d'une zone obscure pour avancer sur la route.

Ce n’est pas une excuse pour justifier la faiblesse du véhicule, toutefois. Pour qu’une voiture autonome soit viable, elle devra gérer tous les cas de figure, y compris les comportements parfois irrationnels et surprenants des humains. En théorie, la conduite informatisée devrait même être meilleure qu’un conducteur en chair et en os pour prévoir les risques et réagir rapidement. La preuve d’ailleurs avec l’accident mortel qui implique Uber : il y avait une personne derrière le volant, pour intervenir en cas de problème. Manifestement, elle n’a pas pu réagir à temps.

Certains remettent déjà en cause le concept même de conduite autonome, mais il faut aussi rappeler qu’Uber avance très rapidement dans ce domaine, peut-être trop rapidement. La firme a présenté ses premiers véhicules il y a près de deux ans, et fidèle à sa réputation, elle a commencé à les faire rouler sans aucune autorisation. Un conducteur reste en permanence présent dans les voitures, mais cela n’a pas été suffisant pour rester à San Francisco, où l’entreprise avait commencé des essais fin 2016. C’est d’ailleurs suite à cette interdiction que ses Volvo autonomes ont commencé à rouler en Arizona.

Ajoutons que ce n’est pas le premier accident impliquant une voiture autonome Uber. Il y a pratiquement un an jour pour jour, un autre SUV Volvo modifié par l’entreprise est rentré dans deux autres voitures à une intersection, alors que le véhicule roulait sans intervention humaine. Cet incident n’avait fait aucune victime, mais il est intéressant, parce que c’est encore une fois la même raison : un autre véhicule n’a pas cédé le passage, comme le code de la route l’obligeait. Dans un cas, comme dans l’autre, le module de conduite autonome s’est laissé surprendre par un événement anormal qui n’avait probablement pas été pris en compte par les algorithmes.

Spectaculaire, mais sans victime, cet accident impliquant déjà un véhicule Uber en conduite autonome l’an dernier. (Photo @fresconews)

Faut-il en conclure que la solution d’Uber est inférieure à celle des concurrents ? C’est difficile à dire sans les conclusions de l’enquête concernant cet accident, mais aussi parce que l’entreprise est très discrète sur son programme de conduite autonome et qu’on ne sait, au fond, pas grand-chose à son sujet. Rappelons aussi que ce n’est pas le premier accident mortel impliquant une voiture autonome, c’est une Model S de Tesla qui avait tué son conducteur courant 2016. Le constructeur avait mis à jour ses voitures quelques mois plus tard pour ajouter des mesures de sécurité supplémentaires qui auraient évité l’accident. Et les conclusions de l’enquête menée par les autorités américaines avaient finalement innocenté l’autopilote, en ajoutant qu’au contraire, il contribuait à réduire le nombre de crash.

In fine, c’est ce qu’il faut garder en tête à propos de ce nouvel accident et de la conduite autonome. Les voitures autonomes peuvent rester nettement plus sûres que les modèles traditionnels, même si elles ne sont pas infaillibles. Uber collabore avec les forces de l’ordre et on imagine que l’entreprise corrigera ses voitures pour éviter que ce type d’accident se renouvelle à l’avenir.

avatar YAZombie | 

@marc_os: dis donc, la vache, c'est le festival du Café des Sports là! C'est un pari? Dis-moi que c'est un pari…

avatar r e m y | 

"on imagine que l’entreprise corrigera ses voitures pour éviter que ce type d’accident se renouvelle à l’avenir."
Les prochains modèles d'auto détruiront juste avant l'impact pour préserver le piéton. ?

avatar R1x_Fr1x | 

C'est quand même pas normal que de tels tests aient lieu sur la voie publique. Quand on test un logiciel, c'est reservé aux beta-testeurs avertis. Cette femme n'avait rien demandé. RIP.

avatar 0MiguelAnge0 | 

@R1x_Fr1x

Va dire cela a Musk qui faisait la même chose jusqu’à peu. Le pire il appelait cela auto pilot!!

avatar shaba | 

@0lf

C'est la déclaration d'un policier, il juge uniquement le déroulement des faits. Il n'en reste pas moins qu'une voiture qui se prétend autonome doit pouvoir gérer ce genre de situation.

avatar 0lf | 

@shaba
La déclaration d’un policier qui a connaissance des différents éléments a nettement plus de valeur que l’ensemble de ce que peuvent dire ceux qui n’ont pas connaissance de ses éléments.

avatar shaba | 

@0lf

Ce que je dis c'est que même si le piéton est sans doute en tort, la voiture doit savoir gérer cette situation. Le flic se base juste sur son expérience, il n'a à priori pas les compétences techniques pour juger cette partie de l'affaire.

avatar Malum | 

Comment écrire une stupidité pareille ?
Si un piéton veut se suicider et se jette sous les roues d'une voiture aucun système ne peut gérer ça. Même à 30 km/h il y a un minimum de distance d'arrêt. L'arrêt ne peut être instantané.

Si un gars se jette d'un pont et qu'une voiture sans chauffeur passe à ce moment-là dites-nous un peu comme son système pourra gérer l'impact ? Parfois les commentaires sont à faire peur.

avatar pocketalex | 

"Même à 30 km/h il y a un minimum de distance d'arrêt. L'arrêt ne peut être instantané."

Personne ne demande aux voitures de faire de la magie...

avatar shaba | 

@Malum

Ton ton agressif est des plus désagréables et ce n'est pas une nouveauté chez toi. Désolé mais ces voitures sont bardées de capteurs et sont censées anticiper tout mouvement de piéton grâce à un large champ de vision. Nous n'avons pas énormément de détails et peut-être que la piétonne a débouler juste devant mais ça laisse quand même l'impression que ce n'est pas tout à fait au point.

avatar 0lf | 

@shaba
C’est une erreur de penser qu’une voiture peut anticiper ça. Elle voit plus loin, tout autour, et réagit plus vite. Mais elle ne va pas freiner préventivement à chaque fois qu’il y a un piéton sur le trottoir. Et même avec ça, comme il faut une distance certaine pour arrêter un véhicule de cette masse à cette vitesse initiale...

avatar debione | 

Quand j'ai passé mon permis, on m'a appris à être près à freiner (cad avoir le pied qui s'enlève de l'accélérateur et se met au-dessus du frein) si un piéton fait face à a route... Passage clouté ou non, ce cas de figure est très courant. Maintenant, est-ce que le logiciel est capable de reconnaitre la position du corps d'un piéton, ça je ne le sais pas.

avatar 0lf | 

@debione
le véhicule roule a 15m/s. entre ton temps de réaction et la distance d’arrêt (12m), tu ne peux pas l’éviter.
Il ne faut dans ce cas pas être près à freiner, mais simplement freiner. Dans le cas contraire, à cette vitesse c’est la collision assurée, même le pied au dessus de la pédale de frein.

avatar debione | 

Je ne dis pas que la collision n'aurait pas eu lieu avec un humain. Je réagissais simplement au fait que un piéton sur un bord de route n'a pas la même dangerosité suivant la position du corps. Et je me demandais si les véhicules autonomes actuels étaient capables de faire la distinction. Car les risques ne sont pas du tout les mêmes si un piéton est face ou dos à la route. Dos à la route tu continue ton chemin, face à la route tu enlèves la pied de l'accélérateur.

On pourra aussi attendre de savoir si la voiture a tenter de l'éviter. Ce qui dans certaines circonstances est préférable au freinage (ou plutôt on agit de concert, un truc qui bien par la droite, on freine et on tire à fond à gauche...)

avatar 0lf | 

@debione
c’est vrai que ce serait intéressant de savoir si le véhicule est capable de faire la différence.

avatar 0lf | 

@ForzaDesmo
l’évitement c’est pas possible tout le temps non plus, a fortiori si t’es pas tout seul sur la route.

avatar 0lf | 

@ForzaDesmo
De rien. Ravi de t’avoir aidé.

avatar YAZombie | 

@shaba, "la voiture doit savoir gérer cette situation": comme un humain disposant du permis de conduire. Et pourtant c'est bien les humains qui sont responsables de 1,20 millions de morts par an.
Du coup la seule question raisonnable qui reste est celle de la responsabilité: quand c'est un humain, il y a des conséquences pour chacune des parties. Ici, quelles seront-elles?

avatar pommecroquee | 

@shaba

Un humain ne gère pas ce genre de situation, alors je sais pas si on peut se permettre d’en demander autant à un véhicule autonome en phase de test…

avatar Lestat1886 | 

Apparemment, selon les déclarations d’un shérif, l’accident était inévitable

avatar R1x_Fr1x | 

Un chérif constate un accident après-coup. Est-ce qu'il est qualifié pour se prononcer sur sa potentielle évitabilité? Est-il spécialiste de l'IA? A-t-il développé les algorithmes reliant le système de freinage d'urgence aux caméras et autres capteurs pouvant déduire l'arrivée d'un objet X à une vitesse Y de taille Z rendant l'impact inévitable?

À moins que ce shérif ne bosse également pour BFMTV, non.

avatar YAZombie | 

@R1x_Fr1x: questionnement spécieux, que tu n'aurais pas appliqué, dans exactement les mêmes circonstances, s'il s'agissait d'humain. Le shérif n'a pas plus développé les algorithmes qui régissent le comportement humain, n'est pas spécialiste de l'intelligence humaine, et n'est pas particulièrement qualifié pour se prononcer sur la potentielle évitabilité d'un accident impliquant des humains.
Tu bosses pour BFMTV?

avatar R1x_Fr1x | 

Vous êtes bien gentils mais il ne serait pas non plus qualifié pour prédire l'inévitabilité d'un "banal" accident de la route. C'est pourquoi des monsieurs et des madames ont un titre "d'expert" auprès des assurances entre autres. Et il n'appartient pas au shérif du coin de trancher. Pour un "banal" accident de la route. Ou celui impliquant des voitures autonomes.

Pour votre question, non Dieu merci je ne bosse pas pour BFMTV mais vous avez le profil parfait pour son audimat. Parole d'expert. (en quoi, ça, c'est autre chose)

avatar YAZombie | 

"Et il n'appartient pas au shérif du coin de trancher": personne n'a jamais prétendu qu'il avait tranché. Les mots ont un sens. Il a donné son opinion, et je doute toujours aussi fortement que tu aurais levé les mêmes questionnements sur ses dires dans le cas d'un accident impliquant uniquement des humains.
Tu es vraiment sûr de ne pas travailler pour BFMTV?

avatar Lestat1886 | 

@R1x_Fr1x

Je n’en sais rien, je ne fais que dire ce que j’ai lu. ET il s’est exprimé après avoir vu le contenu des caméras embarquées. Apparemment il faisait sombre, elle est sortie sur un passage non piéton de manière brusque. Je pense qu’il est plus apte que nous à se prononcer sur ce cas!

Et pas la peine d’avoir des compétences techniques pour ça, ils ont les moyens de faire appel à des spécialistes!

avatar Lestat1886 | 

@R1x_Fr1x

Je n’en sais rien, je ne fais que dire ce que j’ai lu. ET il s’est exprimé après avoir vu le contenu des caméras embarquées. Apparemment il faisait sombre, elle est sortie sur un passage non piéton de manière brusque. Je pense qu’il est plus apte que nous à se prononcer sur ce cas!

avatar Issou la chancla | 

Selon d'autres sources, la dame traversait en plein milieu de la rue, en pleine nuit, et en téléphonant ou ayant les yeux sur son téléphone.
L'accident était inévitable même par un Tesla beaucoup plus "high tech", les torts reviennent à 100% à la victime.

avatar r e m y | 

@Issou la chancla
Elle regardait son téléphone? Le policier ne semble pas l'avoir remarqué...
Tu crois qu'elle était en train de commander un Uber? ?

avatar pocketalex | 

@Issou la chancla

C'est ton discours. La voiture aurait peut-être (je ne sais pas) piler en urgence. Une piéton qui traverse, même n'importe comment, même sans visibilité de la part du véhicule/conducteur, même en dernière minute ...c'est une situation "possible" et donc "à gérer"

C'est un piéton, ça peut être n'importe quel obstacle (rocher, arbre, animal, etc), si les voitures autonomes veulent leur place sur les routes, il faudra que tout événement improbable soit parfaitement géré, c'est inconditionnel.

avatar r e m y | 

@pocketalex

Il faudra également leur "apprendre" à décider, quand il n'y a pas d'autre alternative, s'il vaut mieux tuer ses passagers pour sauvegarder une tierce personne, ou l'inverse.

avatar Bigdidou | 

@Issou la chancla

"Selon d'autres sources, la dame traversait en plein milieu de la rue, en pleine nuit, et en téléphonant ou ayant les yeux sur son téléphone."

J'avais cru comprendre que cette dame était quasi-invisible pour que ni les systèmes de la voiture ni le conducteur ne l'aient détectée.
Mais en fait on la voyait très bien au milieu de la rue en train de regarder son téléphone ?

avatar simnico971 | 

Les chiffres ne sont pas en question : l'humain moyen n'est pas suffisamment fiable pour conduire une voiture au niveau de sécurité que l'on attend pourtant des machines. Le seul blocage est l'aspect éthique d'être blessé ou tué par un ordinateur qui exécute un programme déterministe, plutôt que par un humain qui fait une erreur. Combien d'accidents de voiture mortels chaque jour ? Combien de ces accidents pourraient être évités par des voitures autonomes ? Il suffit d'un crash en pilote automatique et c'est l'affolement général dans les médias. Soyons un peu rationnels.

avatar Abd Salam | 

@simnico971

Justement être rationnel implique de respecter la teneur des critiques :

La technologie n’est pas prête ! point.

On fait pas les tests en situation réelle.

Inutile d’imaginer que les gens exigent un niveau de sécurité trop élevé !

avatar simnico971 | 

@Abd Salam

La technologie est déjà meilleure que l'être humain.

avatar Abd Salam | 

@simnico971

En tout cas pas la technologie embarquée dans ce véhicule.

La technologie surpasse l’être humain dans certains contextes, et l’humain surpasse la technologie dans d’autres (probablement que ce sera pas toujours vrai).

avatar simnico971 | 

@Abd Salam

L'humain est faillible. La voiture autonome est aussi faillible et le sera toujours. La sécurité parfaite n'existe pas. Mais les chiffres actuels montrent que les véhicules autonomes sont déjà plus fiables que nous. À partir de quel niveau de fiabilité accepterons-nous qu'ils nous remplacent ? Tesla annonce que son pilote automatique est déjà 3x plus fiable qu'un conducteur, et vise un facteur 10 pour la généralisation. C'est dire à quel point nous sommes mauvais. Combien de personnes autour de vous ont déjà eu un accident ?

D'ailleurs l'humain dans la voiture accidentée n'a pas réagi alors qu'il pouvait enclencher un freinage d'urgence.

avatar YAZombie | 

@Abd Salam, En tout cas pas la technologie embarquée dans ce véhicule: et tu sors ça d'un unique accident, dont tu ne sais in fine pas grand-chose? Et toi, tu es sûr d'être prêt pour le prime time? Parce que pour le moment tu ne passes pas nécessairement le test de Turing… Franchement, ton commentaire est risible tellement il est dénué d'arguments. Dans la balance, pour rappel, c'est plus d'un million d'accidents de la route dus à des humains, dont on parle.

avatar Abd Salam | 

@YAZombie

C’est sûrement moins risible que de comparer des dizaines de millions de conducteurs à même pas une centaine de voitures autonomes (qui existent pas depuis 300 ans non plus)... pour tirer des statistiques qui se veulent ultimes.

Cela dit, tu peux contredire sans être agressif. Ça changerait des échanges constructifs plutôt que des houspillages.

avatar YAZombie | 

@Abd Salam: la question n'est pas celle des statistiques, mais de la façon dont certains, comme toi, appellent implicitement à un moratoire voire à l'abandon de technologies dont ils ne connaissent strictement rien, suite à des exemples certes dramatiques mais qu'ils portent en étendard. Quand tu dis "En tout cas pas la technologie embarquée dans ce véhicule", tu prétends savoir qu'un humain aurait fait aussi bien, voire mieux. Or tu n'en sais strictement rien. Quand tu écris "La technologie n’est pas prête ! point." et "On fait pas les tests en situation réelle", tu fais preuve d'une incroyable arrogance, en soi et au regard de ton évidente ignorance du sujet. Ça n'appelle certainement pas à la courtoisie. Tu veux des échanges constructifs? Commence par faire preuve d'un minimum d'humilité. Tes messages jusqu'ici en ont été totalement dénués.

avatar Abd Salam | 

@YAZombie

«comme toi, appellent implicitement à un moratoire voire à l'abandon de technologies dont ils ne connaissent strictement rien, suite à des exemples certes dramatiques mais qu'ils portent en étendard.»

Ah bon, j’ai écrit qu’il fallait abandonner la technologie en question...
Merci de me l’apprendre.

«Quand tu dis "En tout cas pas la technologie embarquée dans ce véhicule", tu prétends savoir qu'un humain aurait fait aussi bien, voire mieux. Or tu n'en sais strictement rien».

Ah bon, on pourrait déduire les capacités des humains d’après les capacités des machines.
Heureux de l’apprendre.

«Quand tu écris "La technologie n’est pas prête ! point." et "On fait pas les tests en situation réelle", tu fais preuve d'une incroyable arrogance,»

C’est une interprétation... d’autre penseront qu’il s’agit de précaution.

«et au regard de ton évidente ignorance du sujet. Ça n'appelle certainement pas à la courtoisie.»

Même si c’était de l’ignorance, se la jouer agressivement supérieur n’est pas justifié.

avatar YAZombie | 

@Abd Salam
"Ah bon, j’ai écrit qu’il fallait abandonner la technologie en question... Merci de me l’apprendre"
Manifestement le terme "implicitement" t'a échappé.
Si ce n'est pas ce à quoi tu penses, il peut être utile de préciser tes "recommandations" en l'espèce, ce qu'il serait bon, à ton avis manifestement très informé, de faire. Et de l'argumenter.
"Ah bon, on pourrait déduire les capacités des humains d’après les capacités des machines. Heureux de l’apprendre."
Même de loin ça n'a tellement rien à voir avec ce que j'ai écrit qu'il est impossible de tirer cette conclusion de mes dires à moins d'avoir des hallucinations. Même pas implicitement. Des problèmes de compréhension de lecture, aussi?
"C’est une interprétation... d’autre penseront qu’il s’agit de précaution"
Terminer une assertion par "point!" n'est pas une preuve de précaution, mais bien d'arrogance.
Une arrogance présente aussi dans le fait que tu te prétends meilleur juge, sur un cas unique d'accident, de la sécurité de véhicules autonomes que tous les ingénieurs qui participent à ces essais, et les autorités qui les ont autorisées. Une paille. Mais non non, c'est juste de la précaution.
"Même si c’était de l’ignorance, se la jouer agressivement supérieur n’est pas justifié"
L'arrogance procède d'un sentiment de supériorité. Commence par prendre conscience de ce que tu écris - ça ne semble pas t'effleurer, l'autocritique -, puis applique donc toi tes propres directives.

avatar Abd Salam | 

@YAZombie

Tu n’as pas à imaginer des recommandations...

Comme ça tu n’as pas à reconnaître que tu t’es planté. Ou pour éviter de reconnaître ton erreur me sommer de livrer des recommandations !

Bref, c’est plus simple de ne pas me prêter d’intentions en te justifiant avec le terme implicite.

avatar YAZombie | 

Si tu ne les cites pas, il est tout à fait valide de les imaginer. Si tu dis que c'est faux, il n'y a rien de plus ordinaire que te demander ce qu'elles sont. Je serai ravi de te dire que je me suis planté sur ce point en ce qui te concerne, je fais bizarrement partie de ces gens qui sont capables d'autocritique - jusqu'ici contrairement à toi. J'ai même été connu pour présenter des excuses dans des cas même pas extrêmes.
Sommer signifie "demander avec insistance" voire "ordonner"; "il peut être utile" n'a clairement rien à voir avec "sommer". Les mots ont un sens.
On constatera que tu ignores le reste de mon commentaire. Tellement plus simple que même un début d'autocritique hein?

avatar Abd Salam | 

@YAZombie

Tu as suffisamment de culture pour jouer sur les mots à l’infini !

Et c’est très bien.

avatar YAZombie | 

@Abd Salam:
Va, je ne te hais point. ?️
(Pour info - même si tu t'en fous - je ne pense en rien que tu sois réductible à tes commentaires ici)

Pages

CONNEXION UTILISATEUR