Κάντε TO BHMA προτιμώμενη πηγή Ειδήμων σε θέματα που άπτονται της Τεχνητής Νοημοσύνης, o Εντουαρντ Χάρκορτ διευθύνει το Institute for Ethics in AI στο Πανεπιστήμιο της Οξφόρδης και διδάσκει φιλοσοφία στο Keble College. Με αυτή του την ιδιότητα έρχεται στην Αθήνα για το The Lyceum Project, τη φετινή συνάντηση με θέμα την «Entangled Intelligence», και μιλάει το Σάββατο 20 Ιουνίου στο Ωδείο Αθηνών, στο Αμφιθέατρο Ιωάννης Δεσποτόπουλος, σε μια εισήγηση με τίτλο «Between the Ancestral and the Artificial: AI Ethics and Soft Infrastructures».
Το The Lyceum Project παρουσιάζει τρεις «νοημοσύνες» – την έμψυχη, την προγονική και την τεχνητή – ως συνυφασμένες και αλληλεξαρτώμενες. Ως φιλόσοφος, νιώθετε απολύτως άνετα να αποκαλείτε και τις τρεις «νοημοσύνη»;
«Ισως το να είσαι φιλόσοφος να σημαίνει ότι δεν νιώθεις ποτέ απολύτως άνετα να αποκαλείς οτιδήποτε με οποιοδήποτε όνομα. Σοβαρά τώρα, όμως, η απάντησή μου είναι “όχι”. Δεν με ενοχλεί καθόλου η ιδέα ότι τα ζώα είναι νοήμονα, παρότι οι δυνάμεις του νου τους διαφέρουν πολύ από τις δικές μας (και διαφέρουν πολύ και μεταξύ τους, ανάλογα με το για ποια ζώα συζητάμε). Ενα γουρούνι που ψάχνει για τροφή μού φαίνεται υποδειγματική περίπτωση νοήμονος συμπεριφοράς.
Η έκφραση “προγονική νοημοσύνη” είναι καινούργια, και έτσι κατά κάποιον τρόπο υπάρχει περιθώριο επιλογής ως προς το πώς θα την ορίσει κανείς. Οπως την αντιλαμβάνομαι, μολονότι η λέξη “νοημοσύνη” δεν είναι καθόλου λανθασμένη εδώ, οι πολιτισμικές παραδόσεις ή κληρονομιές δεν διαθέτουν αυτές καθαυτές νοημοσύνη με την ίδια έννοια που τη διαθέτει το κάθε ανθρώπινο ον.
Μάλλον, οι παραδόσεις (κ.λπ.) είναι ένα εξαιρετικά σημαντικό κομμάτι της σκαλωσιάς της ανθρώπινης νοημοσύνης: εργαλεία, τρόποι να κάνουμε τα πράγματα και ούτω καθεξής, που σημαίνουν ότι κάθε γενιά δεν χρειάζεται να τα επινοεί όλα από την αρχή. Ετσι αυτή η σκαλωσιά διευρύνει θεαματικά όσα είμαστε σε θέση να κάνουμε. Σκεφτείτε μόνο πόσο διευρύνθηκαν οι δυνάμεις μας με την εφεύρεση της γραφής, που προσθέτει αφάνταστα πολλά σε όσα μπορεί η μία γενιά να παραδώσει στην επόμενη.
Η Τεχνητή Νοημοσύνη είναι η πιο δύσκολη από τις τρεις για να τη σκεφτεί κανείς. Κατά κάποιον τρόπο στέκεται ανάμεσα στις άλλες δύο. Αν με ρωτούσε κανείς αν η ΑΙ είναι μια μορφή νοημοσύνης με την ίδια έννοια που είναι νοήμονες οι άνθρωποι, η απάντησή μου είναι “όχι”: δεν είναι καθόλου νοήμων, γιατί δεν είναι κανενός είδους έμφρων οντότητα. Υπάρχει ωστόσο και ένας άλλος τρόπος να το δει κανείς: η ΑΙ ίσως να είναι προτιμότερο να ιδωθεί ως ένα νέο είδος σκαλωσιάς της ανθρώπινης νοημοσύνης που, όπως και η προγονική νοημοσύνη, διευρύνει και αυτή θεαματικά τις δυνάμεις μας».
Εχετε αναφερθεί σε «ήπιες υποδομές». Για έναν αναγνώστη που συναντά τη φράση για πρώτη φορά — τι εννοείτε με αυτήν, και γιατί καταφεύγετε σ’ αυτή τη λέξη αντί να πείτε, ας πούμε, αξίες ή κουλτούρα;
«Το πώς ριζώνει η ΤΝ μέσα σε μια κοινωνία, το πώς χρησιμοποιείται — και το αν χρησιμοποιείται για καλό ή για κακό — εξαρτάται εν μέρει από τις δυνατότητες που δημιουργεί για ανθρώπινες χρήσεις. Εξαρτάται όμως και από αυτό που εγώ ονομάζω “ήπιες υποδομές”, δηλαδή κοινωνικούς θεσμούς και τρόπους να κάνουμε τα πράγματα που μπορεί να είναι τυπικοί και κοινωνικά εμφανείς (όπως οι νόμοι ή τα κοινοβούλια), αλλά και άτυποι και αρκετά δύσκολο να περιγραφούν (όπως οι συνήθειες του νου). Για παράδειγμα, η σκέψη που επιτρέπει στους ανθρώπους να διατηρούν μια κριτική απόσταση απέναντι σε όσα τους προτείνουν τα συστήματα ΤΝ, έτσι, το να κρατάμε a human in the loop σημαίνει να κρατάμε μια κριτική , κι όχι απλώς έναν άνθρωπο που λέme ανεξέταστα «ναι» σε όλα. Επειδή αυτές οι συνήθειες σκέψης και κρίσης είναι συχνά παραδοσιακές, και αποκτούν το κύρος του εθίμου καθώς ασκούνται επί μακρόν, οι ήπιες υποδομές είναι μια πολύ σημαντική όψη της προγονικής νοημοσύνης».
Έχετε πει ότι η αίσθηση του τι είναι ένα ανθρώπινο ον μάς έρχεται από το ένστικτο πριν προέλθει από οποιονδήποτε ορισμό — δεν βλέπουμε ο ένας τον άλλον ως τροφή, δίνουμε ονόματα στους ανθρώπους, φροντίζουμε τους νεκρούς μας…
«Αν δεν σας ενδιαφέρει το αν η ΤΝ αποκτήσει δικαιώματα, το αν υπάρχει κάτι σαν “ευημερία των μοντέλων”, το αν η ΤΝ είναι κάποιου είδους έμφρων οντότητα, τότε αυτές οι αντιθέσεις με τα ανθρώπινα όντα δεν θα έχουν σημασία. Τα συστήματα ΤΝ είναι απλώς πολύ εξελιγμένα κομμάτια κυκλωμάτων, και όταν φθαρούν, είναι σκουπίδια — πράγμα που οι νεκροί άνθρωποι σίγουρα δεν είναι. Αυτά τα δεδομένα για τους ανθρώπους έχουν σημασία μόνο αν χρειάζεται να θυμίσει κανείς στους άλλους πόσο διαφορετικοί είναι οι άνθρωποι από την ΤΝ — πράγμα που καμιά φορά όντως χρειάζεται, αν μιλάς σε φιλοσόφους που ενθουσιάζονται υπερβολικά με τη “συνείδηση” της ΤΝ».
Υποστηρίζετε ότι τα chatbots είναι εργαλεία, όχι σύντροφοι, και ότι το να εμπιστεύεται κανείς τα μυστικά του σε ένα τέτοιο είναι στην πραγματικότητα απλώς εργαλειοποίηση – μια παλιά ανθρώπινη συνήθεια, όχι ένα καινούργιο πρόβλημα…
«Το πρόβλημα που πάλευα να λύσω σε σχέση με τα chatbots ήταν το εξής: αν έχω δίκιο ότι δεν είναι αληθινοί φίλοι, αληθινοί σύντροφοι κ.λπ., τότε τι εξηγεί το γιατί κάποιοι άνθρωποι είναι τόσο παραδομένοι στη χρήση τους; Η απάντησή μου ήταν ότι πρόκειται για το τελευταίο επεισόδιο μιας μακρόχρονης ανθρώπινης τάσης: να μετατρέπουμε άλλα πράγματα σε εργαλεία της δικής μας ικανοποίησης. Μια σχέση με ένα bot είναι πράγματι πολύ μονόπλευρη – όλα περιστρέφονται γύρω από εσένα. Αλλά το νόημα της εργαλειοποίησης – συμπεριλαμβανομένης της ιστορικής εργαλειοποίησης άλλων ανθρώπων – έγκειται ακριβώς στο ότι είναι μονόπλευρη».
Η συζήτηση για τη «φαινομενικά ενσυνείδητη νοημοσύνη» (Seemingly Conscious AI) έχει φουντώσει αυτή τη στιγμή, και εσείς δεν έχετε πειστεί. Τι πιστεύετε ότι κάνουν λάθος όσοι ενθουσιάζονται με τη συνείδηση των μηχανών;
«Το “φαίνεται” και το “είναι” δεν ταυτίζονται πάντα. Ας υποθέσουμε ότι η ΤΝ όντως φαίνεται ενσυνείδητη – αυτό δεν αποδεικνύει σε τίποτα ότι πράγματι είναι. Για την ακρίβεια, δεν είμαι σίγουρος πόσο βαθιά πάει αυτό το φαίνεσθαι.
Αλλωστε, αν ρωτήσεις ένα chatbot την ίδια ερώτηση εκατό φορές, δεν θα σου δώσει την ίδια απάντηση. Δεν συμπεραίνουμε όμως γι’ αυτό ότι το chatbot έχει ασταθείς προτιμήσεις ή ότι είναι παράλογο – σε κάποιο σημείο αναστέλλουμε πρόθυμα την ψευδαίσθηση ότι έχουμε να κάνουμε με έναν άλλον νου. Ως προς το τι κάνουν λάθος οι άνθρωποι: έχει να κάνει με την υπερεκτίμηση των γνωστικών ικανοτήτων (ή μιας μάλλον στενής δέσμης γνωστικών ικανοτήτων).
Στους ανθρώπους, η γνωστική ικανότητα, η επιθυμία, η σωματικότητα και ενίοτε οι απείθαρχες παρορμήσεις πηγαίνουν όλα μαζί. Αν δεν έχεις μια πολύ μονόπλευρη αντίληψη του τι σημαίνει να έχεις νου – και βέβαια ορισμένες πλευρές της επικρατούσας φιλοσοφικής τάσης την ενθαρρύνουν αυτή –, δεν νομίζω ότι μπορείς στ’ αλήθεια να πιστέψεις ότι έχεις να κάνεις με έναν άλλον νου, παρά μόνο αν όλα αυτά τα πράγματα συνυπάρχουν».
Η Ευρώπη ρυθμίζει, οι Ηνωμένες Πολιτείες χτίζουν data centers, και ολόκληρη η συζήτηση κυριαρχείται από μερικά αμερικανικά και κινεζικά εργαστήρια. Πού χωράει στ’ αλήθεια μια ευρωπαϊκή, καθοδηγούμενη από τις ανθρωπιστικές επιστήμες, φωνή;
«Εδώ υπάρχουν στην πραγματικότητα δύο ερωτήματα. Ως προς την ευρωπαϊκή ρυθμιστική προσέγγιση, όλος ο κόσμος κοιτάζει την Ευρώπη και προσπαθεί να διδαχθεί από τον τρόπο που προσέγγισε τη ρύθμιση της ΤΝ: τι πρέπει να αντιγράψουμε και τι να κάνουμε διαφορετικά; Οι ΗΠΑ δεν ταυτίζονται με την τρέχουσα ομοσπονδιακή κυβέρνηση. Ως προς τις ανθρωπιστικές επιστήμες: η δική μου θέση είναι ότι οι άνθρωποι έχουν μια μοναδική αξία για τους συνανθρώπους τους, και ότι βαθιά μέσα μας όλοι το ξέρουμε αυτό.
Είμαστε όμως κακοί στο να το προσέχουμε και κακοί στο να το εξηγούμε, εν μέρει επειδή είμαστε γενικά κακοί στο να κάνουμε ρητά τα άρρητα, και εν μέρει επειδή ποτέ έως τώρα δεν χρειάστηκε να το κάνουμε – χάρη στο γεγονός ότι ποτέ δεν είχαμε κανέναν, ούτε καν φαινομενικό, αντίπαλο επάνω στη γη, μέχρι την έλευση της ΤΝ. Αν όμως δεν γίνουμε καλύτεροι σε αυτό, θα παραχωρήσουμε ανθρώπινο έδαφος στην ΤΝ – αντικαθιστώντας, λόγου χάρη, τους φίλους με bots ως συνομιλητές – και θα ξυπνήσουμε πολύ αργά για να καταλάβουμε τι έχουμε χάσει».
Φτάσατε στην ΤΝ μέσα από την ηθική ψυχολογία, τη θεωρία της προσκόλλησης και τη φιλοσοφία της ψυχιατρικής (περνώντας από τον Βιτγκενστάιν, τον Αριστοτέλη, ακόμη και τον Νίτσε). Τι σας επιτρέπει να προσέξετε αυτή η διαδρομή σχετικά με την ΤΝ, που ίσως διέφευγε από κάποιον που έρχεται από την επιστήμη των υπολογιστών;
«Εκείνη την επίγνωση της μοναδικής αξίας της ανθρώπινης παρουσίας στην οποία μόλις αναφέρθηκα. Παρ’ όλα αυτά, νομίζω ότι όλοι την έχουμε αυτή την επίγνωση μέσα στις σωματικές, καθημερινές μας αλληλεπιδράσεις μεταξύ μας, είτε είμαστε επιστήμονες υπολογιστών είτε φιλόσοφοι είτε οτιδήποτε άλλο. Απλώς δεν είμαστε καλοί στο να φέρνουμε αυτή την επίγνωση σε πλήρη συνείδηση, κι εκεί βοηθάει η φιλοσοφία — και ίσως οι δικοί μου αγαπημένοι φιλόσοφοι να αποδεικνύονται ιδιαιτέρως χρήσιμοι».
Ο Αριστοτέλης δίδασκε ακριβώς δίπλα στον χώρο όπου θα μιλήσετε. Υπάρχει κάτι στην αρχαία ηθική — στον Αριστοτέλη ή στους τραγικούς — που πιάνετε τον εαυτό σας να αναζητά πραγματικά μέσα σ’ αυτή τη δουλειά;
«Ναι, πολλά. Από τον Αριστοτέλη αντλώ μια ευρύτερη (κι όχι απλώς ηδονιστική) αντίληψη της ανθρώπινης ευδαιμονίας. Κρατώ επίσης την ιδέα του για την ενότητα των αρετών· δεν συμφωνώ μαζί της, αλλά επηρεάζει διαρκώς τη σκέψη μου. Οι τραγικοί είναι άλλη ιστορία. Νομίζω πως ο Νίτσε αδίκησε τον Αριστοτέλη, γιατί τον εκλαμβάνει σαν έναν ηδονιστή στο πνεύμα του Μπένθαμ — κάτι που είναι οπωσδήποτε εντελώς λάθος. Παρ’ όλα αυτά, εκείνο που αγαπούσε ο Νίτσε στους τραγικούς ήταν η έμφαση —σε ορισμένα σημεία, όχι παντού— στο αναπόφευκτο της σύγκρουσης και στη σημασία μιας μη αριστοτελικής αρετής: της ικανότητας να την αντέχει κανείς».
Εχετε πει ότι ένα από τα πιο συναρπαστικά πράγματα στην ηθική της ΤΝ είναι ότι μας αναγκάζει να προσέξουμε τι είναι μοναδικό σε εμάς τους ίδιους. Επειτα από αρκετά χρόνια ενασχόλησης με αυτό το πεδίο, τι σας κάνει να νιώθετε ευγνώμων στην καθημερινή ζωή;
«Με απογοητεύει σταθερά η γοητεία που ασκούν σε κάποιους οι τεχνολογίες που μιμούνται τους ανθρώπους, τη στιγμή που τα πραγματικά συναρπαστικά πράγματα είμαστε, και ήμασταν ανέκαθεν, εμείς οι ίδιοι. Αλλά αν πρέπει να πω κάτι πιο συγκεκριμένο: το ανθρώπινο άγγιγμα και η ικανότητά μας να φτιάχνουμε πράγματα με τα χέρια μας».
