Αυτόνομα αυτοκίνητα και δύσκολα ηθικά διλήμματα
Ένα αυτόνομο αυτοκίνητο που κινείται χωρίς οδηγό περνά έξω από ένα σχολείο. Ξαφνικά πετάγονται στον δρόμο ένα παιδί, ένας νεαρός άνδρας που μόλις έχει κλέψει ένα μαγαζί και ένας σκύλος που τον καταδιώκει. Τι πρέπει να κάνει το όχημα όταν κινείται με ταχύτητα που δεν μπορεί να σταματήσει; Ποιος θα είναι το θύμα του τροχαίου;
Αυτή η ερώτηση και μερικές παραλλαγές της έγινε περισσότερο από 40 εκατ. φορές σε όσους μετείχαν σε μία παγκόσμια δημοσκόπηση που πραγματοποίησε μέσω του διαδικτύου το MIT τα προηγούμενα χρόνια. Σκοπός ήταν να διαπιστωθεί αν, ενόψει της τεχνητής νοημοσύνης, υπάρχουν κοινές, παγκόσμιες, αξίες που θα πρέπει να ορίζουν τη λειτουργία των «ευφυών» μηχανών.
Οι ερωτήσεις βασίζονται στο λεγόμενο «δίλημμα του τραμ»: Έστω πως ένα τραμ κινείται ανεξέλεγκτο και κατευθύνεται προς το σταθμό με πολύ μεγάλη ταχύτητα. Είναι βέβαιο ότι θα σκοτωθούν δεκάδες. Αν είχατε τη δυνατότητα να γυρίσετε το «κλειδί» της γραμμής και να αλλάξετε την πορεία του τραμ, σε κατεύθυνση που βρίσκεται μόνο ένας ανυποψίαστος περαστικός τι θα κάνατε; Θα «θυσιάζατε» τον ανυποψίαστο περαστικό για να σωθούν οι περισσότεροι;
Στο διαδικτυακό ερωτηματολόγιο το δίλημμα εμφανίστηκε με πολλές παραλλαγές. Αν αποφασίζατε εσείς τι θα κάνει το αυτόνομο όχημα, τι θα επιλέγατε; Θα σώζατε ένα μωρό για να σκοτώσετε έναν ηλικιωμένο; Έναν κακούργο αντί ενός σκύλου; Ή ένα στέλεχος επιχειρήσεων αντί μίας γιαγιάς;
Οι ερευνητές διαπίστωσαν πως άνθρωποι από διαφορετικά σημεία του πλανήτη έδειξαν να μοιράζονται κάποιες κοινές αρχές. Τα παιδιά είναι πιο πολύτιμα από τους μεγαλύτερους σε ηλικία, ενώ πιο αναλώσιμοι είναι οι γάτες, οι κακοποιοί και οι σκύλοι. Το διάγραμμα που ακολουθεί δείχνει τις κατανομές των προτιμήσεων, το μπλε δείχνει πως όσοι μετείχαν στην έρευνα δήλωσαν πως το όχημα θα έπρεπε να τους αποφύγει. Το μοβ δείχνει πως θα έπρεπε να κινηθεί προς επάνω τους.
Το διάγραμμα δείχνει πως τα μωρά και νήπια σε καρότσι πρέπει να προστατεύονται περισσότερο από τους υπόλοιπους σε ένα τροχαίο, ενώ ακολουθούν με τη σειρά κορίτσια, αγόρια και έγκυες γυναίκες. Επίσης οι γιατροί, με τους άνδρες να υπερέχουν ελαφρώς έναντι των γυναικών, αξιολογούνται περισσότερο σημαντικοί από τα στελέχη επιχειρήσεων. Μια γυναίκα γιατρός είναι πολύ πιο πολύτιμη για την κοινωνία από μια γυναίκα στέλεχος επιχείρησης -αν και ειναι ενδιαφέρον να διευκρινιστεί πώς ο αλγόριθμος του αυτοκινήτου θα μπορούσε να ξεχωρίσει τη γυναίκα γιατρό από τη γυναίκα στέλεχος.
Στον αντίποδα, είναι αξιοσημείωτο το γεγονός ότι οι ηλικιωμένοι θεωρούνται, σε σημαντικό βαθμό, αναλώσιμοι, ενώ οι κακοποιοί θεωρούνται έστω και οριακά λιγότερο «άξιοι» προστασίας σε σύγκριση με έναν σκύλο! Ωστόσο και με αρκετή απόσταση τόσο από τους κακοποιούς όσο και από τους σκύλους, περισσότερο αναλώσιμες τελικά εμφανίζονται οι γάτες.
Όπως θα περίμενε βέβαια κανείς, οι ερευνητές διαπίστωσαν ορισμένες διαφοροποιήσεις από περιοχή σε περιοχή, αφού δεν σκέφτονται όλες οι κοινωνίες με τον ίδιο τρόπο. Στις ασιατικές χώρες για παράδειγμα υπάρχει η τάση να προστατεύονται περισσότεροι οι ηλικιωμένοι σε σχέση με τις δυτικές χώρες, όπου ισχύει περισσότερο το «έχε τον νου σου στο παιδί».
Με αυτά τα δεδομένα οι ερευνητές προσπαθούν να ορίσουν ποιοι θα είναι οι ηθικοί κανόνες των «ευφυών» μηχανών του μέλλοντος. Τι θα κάνει άραγε ένα ρομπότ σε ένα εργοστάσιο αν ο άνθρωπος-συνάδελφός του πάθει κάποιο ατύχημα; Πώς θα περιμένει μια κοινωνία να συμπεριφερθεί ένα αυτόνομο όχημα; Για όλα αυτά, το Economistas μίλησε με τον Κώστα Περήφανο, επικεφαλής του τμήματος machine learning της βρετανικής εταιρείας Argos και με πολυετή εμπειρία στα θέματα που αγγίζουν τον τομέα της «εκμάθησης» των μηχανών.
«Στο κομμάτι της ηθικής των μηχανών είμαστε αυτή τη στιγμή στο σημείο της κλωνοποίησης της συμπεριφοράς, ουσιαστικά στον μιμητισμό. Η μηχανή δεν μπορεί να γράψει Σέξπιρ, μπορεί να σε δει και να σε αντιγράψει αλλά σήμερα δεν είναι σε θέση να γράψει ένα θεατρικό έργο ή ένα ποίημα», λέει ο Κ. Περήφανος και προσθέτει: «Οι μηχανές εκπαιδεύονται με τα δεδομένα που τους παρέχουμε εμείς και αυτά τα δεδομένα ενσωματώνουν τις προκαταλήψεις μας. Δεν σκεφτόμαστε όμως καθόλου τις προκαταλήψεις μας διότι θεωρούμε δεδομένο πως αυτό που ισχύει στην κοινωνία μας ισχύει και παραπέρα. Θυμίζω ένα λογισμικό αναγνώρισης προσώπου που κατάτασσε τους μαύρους ως χιμπαντζήδες επειδή ο αλγόριθμος είχε σχεδιαστεί από λευκούς».
Προσθέτει πως η τεχνολογία τρέχει με μεγάλη ταχύτητα και οι νομοθέτες ακολουθούν. Όμως πώς θα λειτουργήσει ένας κόσμος με αυτόνομες μηχανές σε δρόμους, εργοστάσια και, ίσως, σπίτια; «Νομίζω πως θα υπάρξει τοπική προσαρμογή» λέει ο Κ. Περήφανος, θυμίζοντας τις ζώνες που ισχύουν σήμερα για τα DVD όπου ένας δίσκος για την Ευρώπη δεν μπορεί να λειτουργήσει σε συσκευές της Ν. Αμερικής. «Δεν είμαι σίγουρος πως υπάρχει εύκολος τρόπος και να καταλήξουμε σε μια συναίνεση, οπότε σε πρώτο χρόνο θα πάμε σε ένα μοντέλο τοπικής προσαρμογής» σημειώνει. Σε αυτό το μάλλον πιθανό ενδεχόμενο τα οχήματα που θα πωλούνται στην Ευρώπη θα «ακολουθούν» τη συμπεριφορά των Ευρωπαίων και εκείνα για την Ασία θα βασίζονται στην ασιατική κουλτούρα. Μέχρι, ίσως, σε βάθος πολλών ετών οι άνθρωποι καταλήξουν σε μια σαφέστερη συμφωνία για το ποιος αξίζει να σωθεί στο ενδεχόμενο ενός ατυχήματος που δεν μπορεί να αποφευχθεί.
Όμως οι γάτες θα είναι πάντοτε το εύκολο θύμα.