IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Cruise condamné à une amende de 1,5 million de dollars pour ne pas avoir révélé à la NHTSA qu'un de ses robotaxis avait traîné un piéton.
Le même accident fait l'objet d'enquêtes supplémentaires de la FTC

Le , par Stéphane le calme

7PARTAGES

9  0 
La société Cruise, filiale de General Motors spécialisée dans les véhicules autonomes, a récemment été condamnée à une amende de 1,5 million de dollars par la National Highway Traffic Safety Administration (NHTSA) pour ne pas avoir correctement signalé un accident impliquant l’un de ses robotaxis et une piétonne. L’accident en question s’est produit en octobre 2023 à San Francisco. Un robotaxi de Cruise a heurté une piétonne après que celle-ci ait été percutée par un autre véhicule, la traînant sur plusieurs mètres. Cruise a omis de mentionner certains détails cruciaux de l’accident dans ses rapports initiaux, ce qui a conduit à une enquête approfondie de la NHTSA. Cet incident soulève des questions cruciales sur la transparence et la sécurité des systèmes de conduite autonome.

L’accident s’est produit le 2 octobre 2023, lorsqu'une piétonne a été heurtée par un autre véhicule qui a pris la fuite, la projetant sur la trajectoire de la voiture Cruise, qui circulait en mode autonome. La voiture Cruise a ensuite traîné la piétonne sur environ 6 mètres avant de s’arrêter. La piétonne a été transporté à l’hôpital avec des blessures mineures.

À la suite de l'accident, le département californien des véhicules à moteur a suspendu la licence de Cruise pour l'exploitation de ses véhicules dans l'État. Le département a également accusé la société de dissimuler des parties de la vidéo de l'incident montrant son véhicule entraînant la piétonne jusqu'au bord du trottoir dans une tentative de se ranger. Cruise a nié cette allégation et affirme avoir montré l'intégralité de la vidéo à l'agence.

Plus de 100 employés de Cruise étaient au courant de l'incident de la piétonne traînée avant la réunion du 3 octobre avec le bureau du maire de San Francisco, la National Highway Traffic Safety Administration, le DMV et d'autres représentants du gouvernement. Mais Cruise n'a rien dit à ce sujet, préférant « laisser la vidéo parler d'elle-même ».

Dans les heures qui ont suivi l'incident, certains employés de Cruise, qui ignoraient que le véhicule avait traîné la piétonne alors qu'il tentait de se ranger, ont publié une déclaration à la presse et ont commencé à partager une première vidéo avec des journalistes. Mais après en avoir pris connaissance, Cruise n'a pas mis à jour sa déclaration ni partagé la vidéo complète de l'incident.

De même, les dirigeants de Cruise étaient « obnubilés » par l'idée de corriger la version des médias selon laquelle le véhicule Cruise, et non le chauffard, avait causé l'accident. Cette « focalisation myope » a conduit la société à omettre des détails sur le rôle joué par son propre véhicule dans la blessure du piéton. Le fait que Cruise n'ait pas corrigé le dossier a conduit les régulateurs et les médias à accuser la société de les avoir induits en erreur.

Conséquences et mesures prises

Le fait que Cruise n'ait pas révélé qu'un piéton avait été gravement blessé par l'un de ses véhicules sans conducteur à San Francisco l'année dernière a entraîné une amende. À la suite de son enquête, la NHTSA a annoncé la pénalité de 1,5 million de dollars dans le cadre d'un ordre de consentement plus large avec Cruise qui comprend des exigences supplémentaires en matière de sécurité et de divulgation : « Cruise doit payer une amende civile d'un montant d'un million cinq cent mille dollars (1 500 000 $) dans les trente (30) jours calendaires suivant la date d'entrée en vigueur de cette ordonnance par consentement, conformément aux instructions fournies par la NHTSA ».

La société a soumis plusieurs « rapports incomplets » dans le cadre de l'ordre général permanent de l'agence, qui exige que les rapports d'accident soient déposés dans un certain délai, en fonction de leur gravité.

Dans son premier rapport à la NHTSA, déposé un jour après l'incident, Cruise n'a pas révélé « que le véhicule Cruise avait traîné le piéton », selon l'ordonnance de consentement. La société a également déposé un rapport supplémentaire 10 jours plus tard, dans lequel elle n'a pas non plus révélé l'incident.

« Il est essentiel que les entreprises qui développent des systèmes de conduite automatisée donnent la priorité à la sécurité et à la transparence dès le départ », a déclaré Sophie Shulman, administratrice adjointe de la NHTSA. « La NHTSA utilise son pouvoir d'exécution pour s'assurer que les opérateurs et les fabricants respectent toutes les obligations légales et œuvrent à la protection de tous les usagers de la route ».

En vertu de ce règlement, Cruise doit soumettre à la NHTSA un plan d'action correctif sur la manière dont elle améliorera sa conformité en matière de notification d'incidents graves et sera soumise à des exigences de notification renforcées pendant au moins deux ans.

« Notre accord avec la NHTSA est un pas en avant dans un nouveau chapitre pour Cruise, s'appuyant sur nos progrès sous une nouvelle direction, des processus et une culture améliorés, et un engagement ferme pour une plus grande transparence avec nos régulateurs », a déclaré Steve Kenner, directeur de la sécurité de Cruise, dans un communiqué. « Nous nous réjouissons de continuer à collaborer étroitement avec la NHTSA au fur et à mesure que nos opérations progressent, au service de notre objectif commun d'amélioration de la sécurité routière ».

Le directeur de la sécurité de Cruise, Steve Kenner, a déclaré que l'accord avec l'agence « est un pas en avant dans un nouveau chapitre pour Cruise, s'appuyant sur nos progrès sous une nouvelle direction, des processus et une culture améliorés, et un engagement ferme pour une plus grande transparence avec nos régulateurs ».


Cruise n'a pas tenté de cacher aux autorités de régulation la vidéo montrant l'accident, selon le rapport d'un cabinet d'avocats

Après la suspension de son permis, Cruise a engagé Quinn Emanuel Urquhart & Sullivan, un cabinet d'avocats, pour mener une enquête sur ce qui s'est passé. Il était question de déterminer si ses dirigeants avaient induit les régulateurs en erreur après l’incident. Le rapport conclut que Cruise n’a pas tenté de dissimuler la vidéo de l’incident, mais qu’il a rencontré des difficultés techniques pour la partager avec les autorités compétentes

Selon le rapport, Cruise a d’abord envoyé une vidéo de 15 secondes aux régulateurs, qui ne montrait pas l’impact initial entre le piéton et le véhicule en fuite, mais seulement le moment où la voiture Cruise a heurté le piéton. Cruise a ensuite essayé d’envoyer une vidéo plus longue de 90 secondes, qui montrait l’ensemble de l’incident, mais a été confronté à des « problèmes de connectivité internet » qui ont retardé l’envoi de la vidéo. Le rapport indique que Cruise a finalement réussi à envoyer la vidéo complète aux régulateurs le lendemain de l’incident.

Le rapport affirme également que Cruise a coopéré pleinement avec les enquêteurs et qu’il n’y a aucune preuve que Cruise ait violé les règles de sécurité ou les lois applicables. Le rapport recommande toutefois à Cruise d’améliorer sa communication avec les régulateurs et de résoudre ses problèmes de connectivité internet


Cruise a soumis des rapports incomplets sur les accidents

La NHTSA a déclaré que Cruise avait soumis plusieurs rapports incomplets concernant des accidents impliquant des systèmes de conduite automatisée, dont deux liés à l'accident d'octobre.

Elle a découvert que Cruise avait omis des détails dans les rapports sur l'accident d'octobre 2023 après avoir visionné la vidéo qu'elle a demandée à Cruise, qui a également modifié quatre autres rapports pour fournir des détails supplémentaires sur d'autres accidents, a déclaré l'agence.

L'enquête de la NHTSA visant à déterminer si Cruise prend suffisamment de précautions avec ses robotaxis autonomes pour protéger les piétons reste ouverte.

Un certain nombre de cadres ont démissionné à la suite de l'incident, notamment les cofondateurs Kyle Vogt et Dan Kan. La société a interrompu ses opérations sans conducteur dans tout le pays, a nommé un nouveau responsable de la sécurité et a rappelé l'ensemble de ses 950 véhicules pour des problèmes de freinage brusque à la suite d'une enquête de la NHTSA sur la sécurité de leurs systèmes de conduite autonome. Près d'un quart des employés de Cruise ont été licenciés alors que GM réduit une partie du financement de l'entreprise.

GM a déclaré en juillet qu'elle suspendait indéfiniment ses projets d'utilisation de son véhicule d'origine à conduite autonome dépourvu de volant.

Au cours des dernières semaines, Cruise a fait les premiers pas vers la reprise de ses activités dans la région de la baie de San Francisco. La société a déployé des véhicules de cartographie à conduite manuelle à Sunnyvale et Mountain View, dans le but de passer à des « tests supervisés » plus tard dans l'automne. Elle a également repris les essais dans un certain nombre d'autres villes, dont Phoenix, Houston et Dallas.

Mais d'autres sanctions pourraient être prises à l'avenir. En effet, cet incident a également conduit à des enquêtes supplémentaires par le ministère de la Justice des États-Unis et la Securities and Exchange Commission.

Source : NHTSA

Et vous ?

Que pensez-vous de cette sanction ?
Qui devrait être tenu responsable en cas d’accident impliquant un véhicule autonome : le fabricant, le développeur du logiciel, ou le propriétaire du véhicule ?
Pensez-vous que les véhicules autonomes peuvent jamais être totalement sûrs, ou y aura-t-il toujours un risque résiduel ?
Les réglementations actuelles freinent-elles l’innovation dans le domaine des véhicules autonomes, ou sont-elles nécessaires pour garantir la sécurité publique ?
Comment les régulateurs peuvent-ils trouver un équilibre entre encourager l’innovation et assurer la sécurité ?
Quel impact pensez-vous que l’adoption généralisée des véhicules autonomes aura sur les emplois dans le secteur des transports ?
Quelles mesures devraient être prises pour soutenir les travailleurs dont les emplois pourraient être menacés par cette technologie ?
Que faudrait-il pour que vous ayez confiance en un véhicule autonome pour vous transporter en toute sécurité ?
Comment les entreprises de véhicules autonomes peuvent-elles améliorer la transparence et la communication avec le public pour renforcer la confiance ?
Quels sont, selon vous, les principaux défis technologiques que les véhicules autonomes doivent encore surmonter ?
Pensez-vous que les systèmes de conduite autonome devraient être testés plus rigoureusement avant d’être déployés sur les routes publiques ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de petitours
Membre chevronné https://www.developpez.com
Le 01/10/2024 à 12:36
Citation Envoyé par Stéphane le calme Voir le message
Que pensez-vous de cette sanction ?
Est elle assez forte ? après elle existe c'est déjà une excellente chose. Là la sanction répond à la question de savoir si l'activité d'une grande boite est plus importante ou pas que la vie des victimes.

Citation Envoyé par Stéphane le calme Voir le message
Qui devrait être tenu responsable en cas d’accident impliquant un véhicule autonome : le fabricant, le développeur du logiciel, ou le propriétaire du véhicule ?
Celui ou celle qui a donné les règles de comportement au véhicule.
Une voiture autonome à 100% a qui on demande d'assurer la sécurité va stopper le véhicule car E=mv² or c'est l'énergie qui cause le danger. Il y a donc forcément des tas de règles qui force la voiture à prendre des risques. Il y a à minima le constructeur et ensuite le propriétaire/utilisateur dans la limite de ce qu'il peut paramétrer.
Le développeur est sous le contrôle du constructeur, il n'a pas à être cité comme responsable.

Citation Envoyé par Stéphane le calme Voir le message
Pensez-vous que les véhicules autonomes peuvent jamais être totalement sûrs, ou y aura-t-il toujours un risque résiduel ?
masse avec de la vitesse, il y aura toujours un risque et pas résiduel mais majeur. une voiture de 2300kg à 130km/h c'est 1.5MJ (c'est énorme), un 35t sera à plus du double dés 50km/h

Citation Envoyé par Stéphane le calme Voir le message
Les réglementations actuelles freinent-elles l’innovation dans le domaine des véhicules autonomes, ou sont-elles nécessaires pour garantir la sécurité publique ?
Elle sont plus que nécessaires, la preuve il y a des tentatives de contournement.

Citation Envoyé par Stéphane le calme Voir le message
Comment les régulateurs peuvent-ils trouver un équilibre entre encourager l’innovation et assurer la sécurité ?
Il n'y a aucun équilibre à trouver, c'est aux constructeurs de démontrer la qualité de leur travail en dehors de la route publique puis sous haute surveillance.

Citation Envoyé par Stéphane le calme Voir le message
Quel impact pensez-vous que l’adoption généralisée des véhicules autonomes aura sur les emplois dans le secteur des transports ?
Mauvais, on a sociétalement pas besoin de la conduite autonome bien au contraire. Les chauffeurs d'aujourd'hui ne seront pas les développeurs/ mainteneurs d'IA de demain.

Citation Envoyé par Stéphane le calme Voir le message
Quelles mesures devraient être prises pour soutenir les travailleurs dont les emplois pourraient être menacés par cette technologie ?
Arrêter de voir comme souhaitable et innovant des choses qui sont juste funs et mauvaises pour la société ?

Citation Envoyé par Stéphane le calme Voir le message
Que faudrait-il pour que vous ayez confiance en un véhicule autonome pour vous transporter en toute sécurité ?
Excellente question. Qu'il ne dépasse pas les 3km/h, parce que je m'inquièterai encore plus pour les autres usagers de la route que de moi même.

Citation Envoyé par Stéphane le calme Voir le message
Comment les entreprises de véhicules autonomes peuvent-elles améliorer la transparence et la communication avec le public pour renforcer la confiance ?
En ne mettant pas sur la route des véhicules en test avec les propriétaires comme bêta testeurs (cf Tesla). Ceci doit se faire avec des protocoles d'essai rigoureux et avec des personnes professionnelles, disponibles et formées pour surveiller l'ia pendant les tests et apprentissages.

Citation Envoyé par Stéphane le calme Voir le message
Quels sont, selon vous, les principaux défis technologiques que les véhicules autonomes doivent encore surmonter ?
Il n'est pas technique il est juridique : comment les constructeurs vont porter la responsabilité pénale et civile. Autrement cela restera des véhicules pas autonomes avec obligation pour le conducteur de rester attentif au volant comme sur les Tesla or là on a le pire des scénarios avec une machine pas capable mais qui absorbe 99.9% de l'attention du conducteur qui sera de fait non attentif quand le 0.1% lui sera demandé.

Citation Envoyé par Stéphane le calme Voir le message
Pensez-vous que les systèmes de conduite autonome devraient être testés plus rigoureusement avant d’être déployés sur les routes publiques ?
Oui, et la pratique de Tesla (test par les utilisateurs) devrait être rigoureusement interdite. Quand on rentre du travail avec une longue journée et sans formation on est pas en capacité de surveiller une IA qui fait 99% du boulot.
1  0 
Avatar de Gluups
Membre émérite https://www.developpez.com
Le 01/10/2024 à 20:06
Je trouvais déjà que c'était gonflé de faire tester les disques durs par les utilisateurs, alors faire tester les véhicules automatisés par les passants qui ne sont pas au courant ...
0  0