Η εμπιστοσύνη στα αυτόνομα συστήματα οδήγησης μερικές φορές υπερβαίνει τις πραγματικές δυνατότητές τους. Στην Tesla, ο Elon Musk υπερθεμάτισε για τις δυνατότητες του Autopilot (κάνοντας και τις ανάλογες πωλήσεις), αλλά πολλοί οδηγοί είχαν τροχαία συμβάντα, μερικές φορές θανατηφόρα. Το πιο πρόσφατο έγινε στην Ταϊβάν χθες, 1η Ιουνίου 2020.

Δεν υπάρχει αμφιβολία ότι πρόκειται για αστοχία του συστήματος, αλλά και κάτι που δείχνει ότι ο άνθρωπος επιβάλλεται να παραμένει κύριος της κατάστασης
Το τροχαίο συμβάν διαδραματίστηκε στον κεντρικό αυτοκινητόδρομο Νο. 1 που διασχίζει το νησί από βορρά προς νότο. 

Νωρίς το πρωί, ένα φορτηγό βρισκόταν τουμπαρισμένο στις δύο αριστερές λωρίδες. Κατά τη διάρκεια του λεπτού ύστερα από το ατύχημα, όλα τα φορτηγά και τα αυτοκίνητα απέφυγαν το τουμπαρισμένο φορτηγό, εκτός από το Tesla Model 3. Η καλιφορνέζικη μπερλίνα φάνηκε να φρενάρει, αλλά τελικά σφηνώθηκε στην καρότσα του φορτηγού, που ευτυχώς «έβλεπε» το Tesla με την οροφή της.

Η σύγκρουση ήταν βίαια, αλλά ο οδηγός του φορτηγού βρισκόταν ήδη ασφαλής στην κεντρική νησίδα. Ευτυχώς, ούτε ο οδηγός του Model 3 τραυματίστηκε. Σύμφωνα με τον τοπικό ιστότοπο CNA, το Autopilot καθοδηγούσε το αυτοκίνητο με ταχύτητα 110 km/h. Με τον οδηγό, να φανταζόμαστε να μένει έκπληκτος που δεν είδε το Tesla να επιβραδύνει, οπότε επενέβη ο ίδιος, αλλά όταν πια ήταν πολύ αργά. 

Πρόκειται λοιπόν για ένα ακόμη ατύχημα-απόδειξη ότι ακόμη και το πιο προηγμένο σύστημα δεν είναι αλάνθαστο. Προφανώς, το τουμπαρισμένο φορτηγό παρερμηνεύτηκε από τις κάμερες του Autopilot που δεν το θεώρησαν ως όχημα ή εμπόδιο.

Να σημειώσουμε εδώ, ότι παρόλο που ο οδηγός μπορεί να ενεργοποιήσει τον αυτόματο πιλότο ανά πάσα στιγμή, η συσκευή παραμένει βοήθημα οδήγησης και όχι εργαλείο υποκατάστασης του ανθρώπου. Το Autopilot στο φάκελο λειτουργίας του υποδεικνύει ότι πρέπει να κρατάς και με τα δύο χέρια το τιμόνι και να έχεις την προσοχή σου στο δρόμο. Ενεργοποιημένο χειροκίνητα, προειδοποιεί οπτικά μετά από λίγα δευτερόλεπτα εάν δεν κάνεις κάποια ενέργεια με το τιμόνι. Στη συνέχεια, εάν ο οδηγός δεν ανταποκριθεί σε αυτήν την ειδοποίηση, το Autopilot απενεργοποιείται και δεν μπορεί πλέον να ενεργοποιηθεί όσο το αυτοκίνητο κινείται.