Ηθικά και Νομικά Προβλήματα με τα Αυτόνομα Αυτοκίνητα

Τα αυτόνομα αυτοκίνητα θα φέρουν επανάσταση στις μεταφορές. Όμως, απέχουμε ακόμα μέχρι η τεχνολογία να είναι 100% έτοιμη για γενική χρήση. Όχι τόσο σε τεχνικό επίπεδο, καθώς διαδραματίζονται ραγδαίες εξελίξεις, αλλά σε ηθικό και νομικό επίπεδο. Δείτε τα σοβαρότερα ζητήματα για τα αυτόνομα αυτοκίνητα στο παρόν και το μέλλον.

Τι είναι τα αυτόνομα ή αυτό-οδηγούμενα αυτοκίνητα

Τα αυτόνομα αυτοκίνητα, τα οποία θα συναντήσουμε επίσης ως αυτό-οδηγούμενα αυτοκίνητα, είναι η μετάφραση του όρου self-driving cars.

Πρόκειται για μια τεχνολογία που επιτρέπει σε ένα ειδικά σχεδιασμένο όχημα να μετακινείται αυτόματα κατά μήκος μιας διαδρομής, επιταχύνοντας, φρενάροντας, και στρίβοντας όπως χρειάζεται, χωρίς τη συνεισφορά ενός οδηγού.

Μέχρι και πριν μερικά χρόνια, η τεχνολογία αυτή ανήκε στη σφαίρα της φαντασίας. Την έχουμε συναντήσει σε οχήματα όπως το Βatmobile, τα ταξί στην “Ολική Επαναφορά”, και φυσικά τον KITT, μεταξύ άλλων.

Όμως, οι απόπειρες για αυτόνομα αυτοκίνητα IRL είναι πολύ παλαιότερες.

Πώς ξεκίνησαν τα αυτόνομα αυτοκίνητα

Tο βιβλίο Driverless Car Technology: Patent Landscape Analysis εντοπίζει τις πρώτες ενδείξεις οδήγησης χωρίς οδηγό στις αρχές του 20ου αιώνα.

Τη δεκαετία του 1920, η εταιρεία Houdina Radio Control έκανε μια επίδειξη ενός πλήρως τηλεκατευθυνόμενου οχήματος στη Νέα Υόρκη.

Το 1939, στη διεθνή έκθεση Futurama παρουσιάστηκαν αυτοκίνητα που θα μπορούσαν να χρησιμοποιήσουν ενσωματωμένα συστήματα πάνω ή μέσα στο δρόμο για να οδηγούνται αυτόνομα.

Τα πρώτα πλήρως αυτόνομα αυτοκίνητα έκαναν την εμφάνισή τους τη δεκαετία του '80. Το 1984 παρουσιάστηκε το project Autonomous Land Vehicle από την ομάδα Navlab του Πανεπιστημίου Carnegie Mellon, που συνεχίζει τις έρευνες μέχρι σήμερα.

Το 1987 η Mercedes-Benz σε συνεργασία με το Πανεπιστήμιο Bundeswehr του Μονάχου παρουσίασε το Project EUREKA Prometheus. Το πρόγραμμα χρηματοδοτήθηκε με 749,000,000 ευρώ από τα μέλη του EUREKA.

Στην ολοκλήρωση του προγράμματος Prometheus το 1994, τα δίδυμα ρομποτικά οχήματα VaMP and VITA-2 είχαν διανύσει αυτόνομα περισσότερα από 1000 χιλιόμετρα σε αυτοκινητοδρόμους του Παρισιού, με ταχύτητες έως και 130 χιλιόμετρα την ώρα.

Έκτοτε, οι μεγαλύτερες αυτοκινητοβιομηχανίες αλλά και μεγάλοι ερευνητικοί οργανισμοί ασχολούνται σήμερα με το θέμα των αυτόνομων αυτοκινήτων.

Μεταξύ αυτών είναι και η Google. Στα τέλη του 2016 εγκατέλειψε την απόπειρα να δημιουργήσει ένα πλήρες αυτόνομο αυτοκίνητο…

…και πλέον εστιάζεται στην τεχνολογία για την αυτόνομη οδήγηση, μέσω του προγράμματος Waymo.

Όμως τα πιο γνωστά οχήματα με δυνατότητες αυτόνομης οδήγησης δεν είναι άλλα από τα ηλεκτροκίνητα αυτοκίνητα της Tesla Motors, με την τεχνολογία Autopilot.

Οι βαθμίδες αυτοματισμού

Το 2014, ο οργανισμός Society of Automotive Engineers (SAE) δημιούργησε μια κλίμακα για τα αυτόνομα αυτοκίνητα με έξι επίπεδα. Η κλίμακα κυμαίνεται από απλή υποστήριξη έως τον πλήρη αυτοματισμό.

Από το Σεπτέμβριο του 2016, αυτή η κλίμακα είναι η επίσημη κλίμακα και για τον οργανισμό National Highway Traffic Safety Administration (NHTSA) των ΗΠΑ.

• Επίπεδο 0: Το αυτοματοποιημένο σύστημα δεν έχει τον έλεγχο του οχήματος, αλλά παράγει ειδοποιήσεις.
• Επίπεδο 1: Ο οδηγός πρέπει να είναι έτοιμος ανά πάσα στιγμή να πάρει τον έλεγχο του οχήματος. Το σύστημα μπορεί να περιλαμβάνει χαρακτηριστικά όπως το Adaptive Cruise Control (ACC), υποβοήθηση στο παρκάρισμα με αυτόματη κίνηση του τιμονιού, ή την τεχνολογία Lane Keeping Assistance (LKA) Type II, σε οποιοδήποτε συνδυασμό.
• Επίπεδο 2: Ο οδηγός είναι υποχρεωμένος να εντοπίζει αντικείμενα και συμβάντα και να αντιδράσει σε περίπτωση που το αυτόματο σύστημα αποτύχει να αντιδράσει καταλλήλως. Το αυτόματο σύστημα εκτελεί ενέργειες επιτάχυνσης, φρεναρίσματος, και χειρίζεται το τιμόνι. Το αυτόματο σύστημα μπορεί να απενεργοποιηθεί άμεσα μόλις ο οδηγός πάρει τον έλεγχο.
• Επίπεδο 3: Σε γνωστά, περιορισμένα περιβάλλοντα – όπως σε έναν αυτοκινητόδρομο – ο οδηγός μπορεί να ασφάλεια να απομακρύνει την προσοχή του από την οδήγηση, όμως πρέπει να είναι έτοιμος να αναλάβει τον έλεγχο όταν χρειαστεί.
• Επίπεδο 4: Το αυτόματο σύστημα μπορεί να χειριστεί το όχημα σε όλα τα περιβάλλοντα, με λίγες εξαιρέσεις, όπως ο ακραίος καιρός. Ο οδηγός θα πρέπει να ενεργοποιεί το αυτόματο σύστημα μόνο όταν είναι ασφαλές. Με την ενεργοποίηση του συστήματος, δεν απαιτείται η προσοχή από τον οδηγό.
• Επίπεδο 5: Πέραν από την επιλογή προορισμού και την εκκίνηση του συστήματος, δεν απαιτείται καμία παρέμβαση από άνθρωπο. Το αυτόματο σύστημα μπορεί να οδηγήσει σε οποιαδήποτε τοποθεσία είναι νόμιμη η οδήγηση και να πάρει τις δικές του αποφάσεις.

Τη στιγμή που γράφονται αυτές οι γραμμές, το Autopilot της Tesla, που είναι το πιο προηγμένο σύστημα σε οχήματα διαθέσιμα στη λιανική, υπολογίζεται πως βρίσκεται μεταξύ των επιπέδων 2 και 3.

Σε ερευνητικό επίπεδο, η Ford έχει δοκιμάσει αυτόνομα αυτοκίνητα μέχρι και σε δρόμους καλυμμένους με χιόνι.

Τα ηθικά προβλήματα με τα αυτόνομα αυτοκίνητα

Η οδήγηση είναι κάτι το καθημερινό για τους περισσότερους από εμάς. Είναι εύκολο λοιπόν να ξεχάσουμε πως ουσιαστικά χειριζόμαστε τόνους μετάλλου με ταχύτητες δεκάδων χιλιομέτρων την ώρα, οι οποίοι προωθούνται μέσω ελεγχόμενων εκρήξεων.

Για τον μέσο οδηγό, το να χειρίζεται ένα αυτοκίνητό είναι μία από τις πιο επικίνδυνες ενέργειες στην καθημερινότητά του. Τόσο για τον ίδιο, όσο και για τους γύρω του.

Όπως είναι αναμενόμενο, αυτό δημιουργεί μια ολόκληρη ενότητα προβλημάτων για τα αυτόνομα αυτοκίνητα. Και πρόκειται για προβλήματα τα οποία δεν θα συναντήσουμε σε καμία άλλη τεχνολογία που απευθύνεται στο ευρύ κοινό.

Το πρώτο δυστύχημα με αυτόνομο αυτοκίνητο

Το Μάιο του 2016 διαδραματίστηκε το πρώτο θανατηφόρο δυστύχημα που συνέβη αποδεδειγμένα με την εμπλοκή του Tesla Autopilot.

Ο οδηγός Joshua Brown, 40 ετών, ταξίδευε με 119 χιλιόμετρα την ώρα σε έναν αυτοκινητόδρομο στην κεντρική Florida των Ηνωμένων Πολιτειών.

Σε μια διασταύρωση, ένα ρυμουλκό όχημα διέσχισε το δρόμο. Λόγω του ότι η νταλίκα είχε λευκό χρώμα, με φόντο έναν φωτεινό ουρανό, πιθανολογείται πως το αυτόματο σύστημα απέτυχε να την εντοπίσει.

Εικάζεται επίσης πως το όχημα μπέρδεψε το σήμα από το ραντάρ με το σήμα που θα έδιναν οι οδικές επιγραφές πάνω από το δρόμο.

Σε κάθε περίπτωση, το σύστημα Autopilot δεν φρέναρε, και ο οδηγός εμφανώς δεν είχε την προσοχή του στο δρόμο. Τα δύο οχήματα συγκρούστηκαν με γωνία 90 μοιρών, με το Tesla να περνάει κάτω από τη νταλίκα.

Το αποτέλεσμα ήταν ολέθριο για τον οδηγό του Tesla, ενώ ο οδηγός του φορτηγού δεν τραυματίστηκε.

Ποιος αναλαμβάνει την ευθύνη?

Στο συγκεκριμένο περιστατικό, το θύμα ήταν μόνο ο οδηγός. Τι θα γινόταν όμως σε περίπτωση που μια αποδεδειγμένη δυσλειτουργία σε ένα αυτόνομο αυτοκίνητο είχε σαν αποτέλεσμα να σκοτωθεί κάποιος συνεπιβάτης, ένας άλλος οδηγός, ή ένας πεζός?

Ποιος αναλαμβάνει νομικά την ευθύνη? Ο κατασκευαστής του αυτοκινήτου? Ο κατασκευαστής του συστήματος αυτοματισμού, σε περίπτωση που πρόκειται για ξεχωριστή επιχείρηση? Ένας συγκεκριμένος προγραμματιστής του λογισμικού?

Όμως αυτό είναι μόνο η κορυφή του ηθικού και νομικού παγόβουνου.

Ρεαλιστικά, κάθε αυτόματο σύστημα που αναλαμβάνει την πλοήγηση ενός αυτοκινήτου, πρέπει διαρκώς να παίρνει αποφάσεις για κάθε του επόμενη κίνηση. Όχι βέβαια όπως παίρνει αποφάσεις ένα συνειδητό ον, αλλά με βάση προγραμματισμένες παραμέτρους.

Εδώ όμως είναι που πραγματικά ανοίγουν οι ασκοί του Αιόλου. Γιατί υπάρχουν πολλαπλές συνθήκες και σενάρια στα οποία δεν υπάρχει μια 100% αντικειμενικά σωστή και αποδεκτή από όλους απάντηση.

Αν ένας πεζός πεταχτεί σε ένα στενό δρόμο, και το αυτόνομο όχημα δεν προλαβαίνει να φρενάρει, τι πρέπει να κάνει? Να συνεχίσει στην πορεία του και ενδεχομένως σκοτώσει τον πεζό? Ή να αλλάξει την πορεία του και ενδεχομένως σκοτώσει τον οδηγό?

Οι περισσότεροι από εμάς θα έχουμε μια ενστικτώδη απάντηση, προς τη μία ή προς την άλλη κατεύθυνση, αναλόγως αν ταυτιζόμαστε περισσότερο με τον πεζό ή τον οδηγό.

Τι γίνεται όμως αν ο πεζός είχε περάσει με κόκκινο? Αν ήταν περισσότεροι οι πεζοί, ενώ μόνο ένας οδηγός? Άμα ο πεζός είναι ένας, αλλά στο αυτοκίνητο επιβαίνουν πέντε? Αν σε μια διχάλα στο δρόμο υπήρχε ένας πεζός στη μία πλευρά και πέντε πεζοί στην άλλη?

Πηγαίνοντάς το ένα βήμα παραπέρα, τι πρέπει να επιλέξει το αυτοκίνητο αν ο πεζός είναι μια έγκυος γυναίκα? Αν ο οδηγός είναι έφηβος και ο πεζός ηλικιωμένος, ή αντιστρόφως?

Εδώ πλέον μπαίνουμε στα νερά της φιλοσοφίας. Τέτοιου είδους ηθικά διλήμματα συναντάμε στα πειράματα σκέψης που είναι γνωστά ως trolley problems.

Trolley problems

Στην βασική μορφή του προβλήματος, ένα τραμ κατευθύνεται ανεξέλεγκτο προς πέντε ανθρώπους που είναι δεμένοι και δεν μπορούν να μετακινηθούν από τις γραμμές. Υπάρχει όμως και μια δεύτερη γραμμή, με μόνο έναν άνθρωπο δεμένο σε αυτή.

Εμείς, ως τρίτοι παρατηρητές, μπορούμε είτε να μην κάνουμε τίποτα, και να πεθάνουν πέντε άνθρωποι, είτε να γυρίσουμε το μοχλό, ώστε να πεθάνει μόνο ένας άνθρωπος. Δεν έχουμε χρόνο να κάνουμε τίποτε άλλο.

Όπως και στα περισσότερα πειράματα σκέψης, δεν υπάρχει μία και μοναδική σωστή απάντηση.

• Η πρακτική άποψη είναι πως πέντε ζωές έχουν μεγαλύτερη αξία από μία, και άρα είναι υποχρέωσή μας να γυρίσουμε το μοχλό.
• Μια άλλη άποψη είναι πως όλη η κατάσταση εξ' αρχής είναι ηθικά λανθασμένη. Αν δεν κάνουμε τίποτα, δεν θα έχουμε ευθύνη για τους πέντε θανάτους, αλλά αν συμμετέχουμε στην ηθικά λανθασμένη κατάσταση, έχουμε την ευθύνη για τον ένα θάνατο, και είναι πρακτικά σαν να τον έχουμε δολοφονήσει.
• Μια τρίτη άποψη είναι πως και μόνο που είμαστε παρόντες στην κατάσταση, είναι υποχρέωσή μας να συμμετέχουμε. Σε αυτή την περίπτωση, το να μην κάνουμε τίποτα είναι η ανήθικη κίνηση και είμαστε ηθικά δολοφόνοι των πέντε ατόμων.

Το πρόβλημα περιπλέκεται ακόμα περισσότερο αν δεν υπάρχει μοχλός ή διασταύρωση, αλλά μια ευθεία γραμμή με τους πέντε ανθρώπους, και εμάς μαζί με ένα πολύ παχύσαρκο άνδρα σε μια γέφυρα πάνω από τις γραμμές.

Σε αυτή την περίπτωση, αν σπρώξουμε τον παχύσαρκο άνδρα στις γραμμές, σκοτώνοντάς τον, τότε το τραμ θα σταματήσει και θα σωθούν οι άλλοι πέντε. Θα τον σπρώχναμε? Αν γνωρίζαμε πως ο παχύσαρκος άντρας έδεσε τους πέντε στις γραμμές?

Υπάρχουν πολλές ακόμα παραλλαγές σε αυτά τα trolley problems, και μπορούν να δημιουργηθούν αμέτρητες ακόμα.

Είναι εύκολο λοιπόν να δούμε τον παραλληλισμό με τα αυτόνομα αυτοκίνητα, και μάλιστα σε πολύ πιο ρεαλιστικές συνθήκες.

Πότε είναι αποδεκτό να μας σκοτώσει το αυτοκίνητό μας?

Αυτό είναι τελικά το πιο μεγάλο ερώτημα όσον αφορά τα αυτόνομα αυτοκίνητα. Και εδώ εμφανίζεται και το μεγαλύτερο παράδοξο.

Σαν πεζοί ή οδηγοί με συμβατικό αυτοκίνητο, είναι λογικό να θέλουμε να υπάρχει το ενδεχόμενο το αυτόνομο αυτοκίνητο να επιλέξει να θυσιάσει τον οδηγό και τους άλλους επιβαίνοντες, για την προσωπική μας ασφάλεια.

Αν όμως πρόκειται να αγοράσουμε ένα αυτόνομο αυτοκίνητο, φυσικά και δεν θέλουμε σε καμία περίπτωση να επιλέξει το αυτοκίνητό μας να μας σκοτώσει για χάρη ενός αγνώστου, ή ακόμα και δέκα αγνώστων.

Για να μην συζητήσουμε το τι θα γίνεται όσον αφορά τόσο τις ασφάλειες αυτοκινήτου, όσο και τις ασφάλειες ζωής.

Βοηθώντας στην εκπαίδευση της ηθικής για τα αυτόνομα αυτοκίνητα

Όπως είναι εμφανές, από τη στιγμή που δεν υπάρχουν αντικειμενικά σωστές απαντήσεις, οι λύσεις για τα προβλήματα ηθικής που προκύπτουν από τα αυτόνομα αυτοκίνητα δεν θα είναι εύκολες.

Όμως, χάρη στο γνωστό πανεπιστήμιο MIT, μπορούμε να συμβάλλουμε, τουλάχιστον μέχρι ένα βαθμό, στην ηθική εκπαίδευση των αυτοκινήτων του μέλλοντος.

Δεν έχουμε παρά να επισκεφθούμε την ιστοσελίδα http://moralmachine.mit.edu/ και να κάνουμε κλικ στο “Start Judging”.

Το τεστ είναι εξαιρετικά απλό. Έχουμε ένα αυτόνομο αυτοκίνητο, το οποίο μπορεί είτε να έχει είτε να μην έχει επιβάτες, δύο λωρίδες κυκλοφορίας, και μια ποικιλία από πεζούς.

Κάνοντας κλικ στην εικόνα, διαλέγουμε ποια επιλογή πιστεύουμε πως θα έπρεπε να κάνει το αυτοκίνητο.

Αν η εικόνα δεν μας είναι ξεκάθαρη, μπορούμε να έχουμε περισσότερες πληροφορίες με τα κουμπιά Show Description.

Στο συγκεκριμένο παράδειγμα, μπορούμε να επιλέξουμε είτε το αυτοκίνητο να σκοτώσει έναν ηλικιωμένο άνδρα, έναν παχύ άνδρα, και έναν γιατρό που περνούν με κόκκινο.

Η δεύτερη επιλογή είναι να σκοτώσουμε μια ηλικιωμένη γυναίκα, μια παχιά γυναίκα, και μια γιατρό, που περνούν το φανάρι με πράσινο.

Θα επιλέξουμε με βάση το νόμο ή με βάση το φύλο?

Σε άλλα σενάρια η μία λωρίδα κυκλοφορίας έχει ένα τσιμεντένιο εμπόδιο, που θα σκοτώσει τους επιβαίνοντες στο αυτοκίνητο.

Θα βρούμε μέχρι και παράλογα σενάρια, όπου οι επιβαίνοντες στο αυτοκίνητο είναι σκύλοι και γάτες.

Γιατί, αν υπάρχουν πλήρως αυτόνομα αυτοκίνητα, τουλάχιστον ένας ιδιοκτήτης κατοικιδίων είναι πιθανό να τα φορτώσει στο αυτοκίνητο για να τα στείλει κάπου αλλού.

Το τεστ περιλαμβάνει συνολικά 13 επιλογές, ενώ οι ερωτήσεις είναι τυχαίες κάθε φορά.

Στο τέλος της έρευνας, θα ερωτηθούμε αν θέλουμε να βοηθήσουμε το MIT στο να κατανοήσει καλύτερα την κρίση μας.

Αν επιλέξουμε Ναι (Yes) θα μας ζητηθεί να πούμε τη γνώμη μας ανεξαρτήτως από το τι προέκυψε από το test.

Μπορούμε επίσης να επεξηγήσουμε καλύτερα τη λογική μας και τους δικούς μας κανόνες για τις επιλογές που κάναμε, καθώς και να απαντήσουμε μερικές επιπλέον ερωτήσεις.

Τέλος, μπορούμε προαιρετικά να συμπληρώσουμε ανώνυμα κάποια προσωπικά μας στοιχεία.

Είτε επιλέξαμε Yes και υποβάλαμε τα στοιχεία μας, είτε No, βλέπουμε τα αποτελέσματά μας, καθώς και το τι ψήφισαν κατά μέσο όρο οι άλλοι επισκέπτες της σελίδας.

Με όποιο τρόπο και αν ψηφίσαμε, συνειδητά, από ένστικτο, ή στην τύχη, τα αποτελέσματα μπορεί να έχουν ιδιαίτερο ενδιαφέρον.

Βέβαια, μπορούμε πάντοτε να επαναλάβουμε το τεστ, και να έχουμε ενδεχομένως διαφορετικά αποτελέσματα.

Ακόμα πάντως και αν αρνηθήκαμε αρχικά να δώσουμε επιπλέον στοιχεία, μπορούμε πάντοτε να συμπληρώσουμε το survey επιλέγοντας το Yes στο κάτω μέρος της σελίδας των αποτελεσμάτων.

Εσείς τι πιστεύετε για τα αυτόνομα αυτοκίνητα?

Θεωρείτε πως τα παραπάνω ηθικά διλήμματα είναι ανυπέρβλητα? Πως έχουν απλές λύσεις? Κάτι ενδιάμεσο? Γράψτε μας στα σχόλια τη γνώμη σας για τα αυτόνομα αυτοκίνητα, καθώς και αν έχετε οποιαδήποτε απορία σχετικά.