Mais c’est aussi un autre exemple de la conséquence involontaire du déploiement d’une technologie inachevée et perturbatrice dans la nature, et montre jusqu’où certains partisans de Tesla sont prêts à aller pour la défendre et défendre l’entreprise. Suffisamment de personnes semblaient mener leurs propres expériences pour qu’une agence gouvernementale prenne la décision extraordinaire d’avertir les gens de ne pas utiliser d’enfants pour tester la technologie automobile.

“Les consommateurs ne devraient jamais essayer de créer leurs propres scénarios de test ou d’utiliser de vraies personnes, et en particulier des enfants, pour tester les performances de la technologie des véhicules”, a déclaré la NHTSA dans un communiqué mercredi. L’agence a qualifié cette approche de “très dangereuse”.

teslas de test

Plus tôt ce mois-ci, le résident californien Tad Park a vu qu’un autre passionné de Tesla voulait essayer la “conduite entièrement autonome” avec un enfant et s’est porté volontaire. deux de ses enfants. Park a déclaré à CNN Business qu’il était “un peu difficile” de mettre sa femme d’accord. Elle a accepté lorsqu’elle a promis de conduire le véhicule.

“Je ne repousserai jamais les limites parce que mes enfants sont tellement plus précieux pour moi qu’autre chose”, a déclaré Park. “Je ne vais en aucun cas risquer leur vie.”

Sa Tesla ralentit alors qu’il s’approchait du “garçon dans la boîte”. Puis il accéléra de nouveau et heurta son mannequin en carton. Cadamuro a émis l’hypothèse que cela pourrait être dû au fait que les caméras ne pouvaient pas voir les boîtes courtes une fois qu’elles étaient immédiatement devant le pare-chocs, et ont donc oublié qu’elles étaient là.

Cadamuro a déclaré que sa vidéo avait commencé comme un divertissement. Mais il voulait que les gens voient que la “conduite entièrement autonome” n’est pas parfaite.

“Je pense que beaucoup de gens ont deux idées extrêmes sur la version bêta de la “conduite entièrement autonome””, a déclaré Cadamuro. “Les gens comme Dan pensent qu’il est la pire chose au monde. Je connais des amis qui pensent qu’il est presque parfait.”

Cadamuro a déclaré qu’il avait également effectué d’autres tests au cours desquels sa Tesla, voyageant à des vitesses plus élevées, a effectivement contourné le “box boy”.

Selon Raj Rajkumar, professeur à l’Université Carnegie Mellon qui étudie les véhicules autonomes, il sera généralement plus difficile de détecter rapidement et avec précision des objets plus petits, tels que de jeunes enfants, que de détecter de grands objets adultes pour un système de vision par ordinateur comme les seuls véhicules Tesla sont utilisés.

Plus un objet occupe de pixels dans une image de caméra, plus le système dispose d’informations pour détecter les caractéristiques et identifier l’objet. Le système sera également affecté par les données sur lesquelles il est entraîné, telles que le nombre d’images de jeunes enfants auxquelles il est exposé.

“La vision par ordinateur avec l’apprentissage automatique n’est pas infaillible à 100 %”, a déclaré Rajkumar. “Tout comme pour diagnostiquer une maladie, il y a toujours des faux positifs et des faux négatifs.”

Tesla n’a pas répondu à une demande de commentaire et ne s’engage généralement pas avec les médias professionnels.

“Règles du chaos du Far West”

Certains partisans de Tesla avaient critiqué l’utilisation de cônes O’Dowd comme marquage de voie dans son test initial, ce qui aurait pu limiter la capacité de la berline à manœuvrer autour du mannequin. D’autres ont affirmé que le pilote d’essai d’O’Dowd avait forcé la Tesla à heurter le mannequin en appuyant sur l’accélérateur, ce qui n’a pas été vu dans les vidéos publiées par O’Dowd. Certains passionnés de Tesla ont également signalé des messages flous sur l’écran du véhicule Tesla indiquant que le pilote d’essai d’O’Dowd appuyait sur l’accélérateur pour altérer les tests.

O’Dowd a déclaré à CNN Business que les messages flous faisaient référence à la suralimentation non disponible et à l’usure inégale des pneus. CNN Business n’a pas été en mesure de vérifier de manière indépendante ce que disait le message, car O’Dowd n’a pas fourni de vidéo plus nette de ce qui s’est passé dans la voiture pendant les tests.

O’Dowd est le fondateur de Project Dawn, un effort pour rendre les ordinateurs sûrs pour l’humanité. Il s’est présenté sans succès comme candidat au Sénat américain cette année dans une campagne centrée uniquement sur sa critique de “l’autonomie totale”.

La NHTSA étudie actuellement la technologie d’assistance à la conduite de Tesla, des changements sont donc possibles.

“Le logiciel qui contrôle la vie de milliards de personnes dans des voitures autonomes devrait être le meilleur logiciel jamais écrit”, a déclaré O’Dowd. “Nous utilisons les règles absolues du chaos du Far West et nous avons trouvé quelque chose de si terrible.”