Στις 26 Ιουνίου, η Κάρεν Χάο έρχεται στο ΚΠΙΣΝ για το SNF Nostos του Ιδρύματος Σταύρος Νιάρχος, όπου θα συζητήσει με τον πρόεδρο του ΙΣΝ Ανδρέα Δρακόπουλο το θέμα «Τεχνητή Νοημοσύνη: Φίλος ή εχθρός;». Δημοσιογράφος και συγγραφέας, που έχει ξεχωρίσει από τη στήλη της στο «The Atlantic», η ίδια έγινε ευρύτερα γνωστή με το «Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI», το βιβλίο-αποκάλυψη που κυκλοφόρησε πέρυσι και ανέβηκε αμέσως στη λίστα των best sellers των «New York Times». Μέσα από χρόνια έρευνας στα εσωτερικά της OpenAI, η Χάο ανέδειξε το κρυφό κόστος της Τεχνητής Νοημοσύνης – ανθρώπινο, περιβαλλοντικό, πολιτικό – και κατέθεσε ένα από τα πιο τεκμηριωμένα επιχειρήματα γύρω από το γιατί η ΑΙ δεν είναι απλώς τεχνολογική επανάσταση, αλλά ζήτημα εξουσίας.
Ο Πάπας Λέων ΙΔ’ πήρε πρόσφατα δημόσια θέση εναντίον της Τεχνητής Νοημοσύνης, χαρακτηρίζοντάς τη ως μορφή αποικιοκρατίας – κάτι που δεν απέχει πολύ από τον τρόπο με τον οποίο την περιγράφετε στο βιβλίο σας. Ποια ήταν η αντίδρασή σας όταν το μάθατε;
«Ημουν πολύ χαρούμενη. Αν και πρέπει να διευκρινίσω: ο Πάπας δεν τάχθηκε κατά της ΤΝ αυτής καθαυτήν. Η κριτική του μοιάζει με τη δική μου: επισημαίνει τι είναι βαθιά προβληματικό στον τρόπο με τον οποίο αναπτύσσεται αυτή η τεχνολογία αυτή τη στιγμή. Παραδέχθηκε επίσης ότι υπάρχουν άλλοι τρόποι ανάπτυξής της που θα μπορούσαν να είναι πραγματικά ωφέλιμοι – αλλά αυτό δεν το βλέπουμε σήμερα. Θεώρησα ότι η εγκύκλιός του ήταν εξαιρετικά καλογραμμένη και ανέδειξε τα πιο σημαντικά σημεία που πρέπει να έχουμε κατά νου όταν μιλάμε όχι μόνο για την Τεχνητή Νοημοσύνη, αλλά για την ανάπτυξη της τεχνολογίας γενικότερα.
Μας υπενθυμίζει – και είναι μια υπενθύμιση που δεν έχουμε ακούσει εδώ και πολύ καιρό – ότι σκοπός της τεχνολογίας είναι να υπηρετεί τους ανθρώπους, να προστατεύει την ανθρώπινη αξιοπρέπεια και να διασφαλίζει ότι όλοι έχουν τη δυνατότητα να ζήσουν μια καλή ζωή. Αυτός ο τρόπος πλαισίωσης έχει γίνει, δυστυχώς, σπάνιος. Τόσο μεγάλο μέρος της συνομιλίας γύρω από την τεχνολογία κυριαρχείται από την εθνική ασφάλεια, τη στρατιωτική ισχύ, το κέρδος ή την παραγωγικότητα. Το να πει ο Πάπας, ουσιαστικά, ότι όλα αυτά είναι δευτερεύοντα μπροστά στον πιο κύριο στόχο – το να μπορεί ο καθένας απλώς να ζει καλά και να αντιμετωπίζεται με αξιοπρέπεια – είναι εξαιρετικά σημαντικό».
Υπήρξε μια καθοριστική στιγμή όπου συνειδητοποιήσατε ότι κάτι πιο επικίνδυνο και σκοτεινό συνέβαινε σε εταιρείες όπως η OpenAI, μια στιγμή που σας έκανε να αποφασίσετε να εμβαθύνετε πολύ περισσότερο;
«Αρχισα να καλύπτω την OpenAI επειδή εργαζόμουν στο MIT Technology Review. Η OpenAI ήταν ένας από τους σημαντικούς παίκτες στο πεδίο έρευνάς μου. Εγινα όμως πραγματικά καχύποπτη – και άρχισα να εξετάζω τον οργανισμό πολύ πιο προσεκτικά – αφού πέρασα τρεις ημέρες στα γραφεία τους για να γράψω ένα προφίλ της εταιρείας. Αυτό που ανακάλυψα ήταν μια βαθιά αναντιστοιχία ανάμεσα στη ρητορική τους και στην πραγματικότητα. Μιλούσαν συνεχώς για διαφάνεια και ανοιχτό πνεύμα, κι όμως η εσωτερική κουλτούρα τους ήταν το ακριβώς αντίθετο: βαθιά μυστικοπαθής. Δήλωναν δημόσια ότι δεν είχαν κανένα σχέδιο για εμπορευματοποίηση, και όμως μέσα από το ρεπορτάζ μου ανακάλυψα ότι είχαν ήδη χαράξει μια εκτεταμένη στρατηγική στροφή προς την εμπορευματοποίηση. Απλώς την είχαν κρύψει από το κοινό».
Μιλάμε για το περιβαλλοντικό κόστος των κέντρων δεδομένων και της υποδομής ΤΝ, αλλά υπάρχει και ένα ανθρώπινο κόστος που παραμένει σε μεγάλο βαθμό στη σκιά. Μπορείτε να περιγράψετε και τα δύο;
«Σε ό,τι αφορά την εργασία, ένας από τους μύθους που αρέσκεται να διαιωνίζει η βιομηχανία AI είναι ότι τα μοντέλα μαθαίνουν να τα κάνουν όλα μόνα τους – ότι αυτό είναι που τα καθιστά “νοήμονα”. Αυτό που δεν λένε ποτέ είναι ότι καθετί που μπορεί να κάνει ένα τέτοιο μοντέλο το κάνει γιατί χιλιάδες άνθρωποι σε όλον τον κόσμο του το δίδαξαν. Αυτό κυμαίνεται από εργαζόμενους στην Κένυα ή στη Χιλή που έγραφαν κυριολεκτικά διαλόγους για να δείξουν στο ChatGPT πώς να συνομιλεί μέχρι συντονιστές περιεχομένου που δίδασκαν στα μοντέλα τι θεωρείται επιβλαβές. Πλέον υπάρχουν ολοένα περισσότεροι συνεργάτες με νομικές σπουδές, ιατρικά πτυχία, διδακτορικά ή χρόνια εξειδικευμένης εμπειρίας που προσλαμβάνονται για να διδάξουν αυτά τα μοντέλα να κάνουν νομική ανάλυση ή έρευνα διδακτορικού επιπέδου.
Ολη αυτή η εργασία οργανώνεται σε ένα πλαίσιο φοβερής εκμετάλλευσης. Οι εργαζόμενοι αμείβονται πολύ άσχημα. Δουλεύουν σε συνθήκες gig economy, χωρίς σταθερό ωράριο, χωρίς παροχές, χωρίς τη δυνατότητα να προβλέψουν το εισόδημά τους από εβδομάδα σε εβδομάδα. Εξαιτίας αυτού, είναι ουσιαστικά αλυσοδεμένοι στους υπολογιστές τους, δουλεύοντας σε παράξενες ώρες για να μαζέψουν αρκετά ώστε να επιβιώσουν. Και πέρα από αυτό, πολλοί από αυτούς εκτίθενται σε εξαιρετικά τοξικό και ψυχολογικά βλαπτικό περιεχόμενο – περιεχόμενο που καταστρέφει την ψυχική τους υγεία, διαλύει την οικογενειακή τους ζωή και τους αφήνει ανίκανους να αντεπεξέλθουν. Αυτό το ανθρώπινο κόστος μόλις τώρα αρχίζει να γίνεται γνωστό στο ευρύ κοινό».
Ο αντίκτυπος στον πλανήτη;
«Σε ό,τι αφορά το περιβάλλον, τα πράγματα έχουν γίνει ακόμα πιο ακραία από τότε που κυκλοφόρησε το βιβλίο. Η βασική φιλοσοφία αυτών των εταιρειών είναι μια προσέγγιση βίαιη: κλιμακώνεις τα μοντέλα χρησιμοποιώντας όλο και μεγαλύτερους υπερυπολογιστές και πολλαπλασιάζεις αυτή την υπολογιστική ισχύ κάθε χρόνο. Ενα από τα μεγαλύτερα κέντρα δεδομένων που κατασκευάζεται αυτή τη στιγμή είναι εκείνο της Meta στη Λουιζιάνα, που θα καλύπτει μια έκταση ίση περίπου με το ένα πέμπτο του Μανχάταν, με προβλεπόμενη κατανάλωση ενέργειας ισοδύναμη με αυτή και των πέντε δήμων της Νέας Υόρκης μαζί. Η OpenAI ανακοίνωσε σχέδια για ένα κέντρο στο Οχάιο, που θα είναι διπλάσιο σε μέγεθος. Οι συνέπειες είναι ανυπολόγιστες.
Τα περισσότερα από αυτά τα κέντρα τροφοδοτούνται από ορυκτά καύσιμα, οπότε οι εκπομπές διοξειδίου του άνθρακα είναι τεράστιες. Η κατανάλωση νερού – τόσο για ψύξη όσο και για παραγωγή ηλεκτρισμού – είναι γιγάντια. Και υπάρχει μια διάσταση που συχνά παραβλέπεται: το κόστος ζωής. Οταν τόσο μεγάλη ποσότητα ηλεκτρισμού εκτρέπεται προς αυτά τα συστήματα, οι απλοί πολίτες που πληρώνουν τον λογαριασμό του ρεύματος βλέπουν τις τιμές να ανεβαίνουν σημαντικά για κάτι που θα έπρεπε να είναι βασικό ανθρώπινο δικαίωμα. Οταν μοιράζομαι αυτά τα νούμερα με κοινότητες, ακόμα και άνθρωποι που καταλαβαίνουν γενικά ότι η Τεχνητή Νοημοσύνη έχει περιβαλλοντικό αντίκτυπο εκπλήσσονται από την πραγματική κλίμακα».
Πιστεύετε ότι έχουμε ακόμα την ευκαιρία να οικοδομήσουμε ένα πλαίσιο προστασίας — ή έχουμε ήδη περάσει κάποιο κατώφλι πέρα από το οποίο οι κίνδυνοι για την ανθρωπότητα γίνονται πολύ δύσκολο να περιοριστούν; Γιατί τόσο μεγάλο μέρος της δημόσιας συζήτησης φαίνεται να εστιάζει στο ότι ο Μασκ γίνεται τρισεκατομμυριούχος και στον ακατάσχετο ρυθμό ανάπτυξης της τεχνητής νοημοσύνης. Όλα τα άλλα μοιάζουν δευτερεύοντα.
«Δεν πιστεύω ότι είναι πολύ αργά. Αυτό είναι εν μέρει μια στάση που κρατώ γενικά — δεν είναι ποτέ πολύ αργά για να αλλάξεις την κατεύθυνση των πραγμάτων. Έχουμε βρεθεί σε πολύ χειρότερες θέσεις στην ιστορία. Σήμερα έχουμε τεράστια εκμετάλλευση εργασίας στη βιομηχανία ΤΝ, αλλά κάποτε αντιμετωπίσαμε κυριολεκτικά τη δουλεία — κι ακόμα τότε, οι άνθρωποι βρήκαν τρόπους να δράσουν, να οργανωθούν, και τελικά να διαλύσουν ένα σύστημα από το οποίο οι ισχυροί κέρδιζαν αμύθητες περιουσίες. Αυτή η εποχή δεν είναι διαφορετική. Θα είναι απίστευτα δύσκολο, όταν έχουμε να αντιμετωπίσουμε τον πρώτο τρισεκατομμυριούχο στην ιστορία και μια από τις πιο ισχυρές βιομηχανίες που γνώρισε ποτέ ο κόσμος; Φυσικά.
Θα απαιτηθεί σημαντική συντονισμένη αντίσταση από κάθε κομμάτι της κοινωνίας. Αλλά είναι εντυπωσιακό αυτό που βλέπουμε να συμβαίνει τον τελευταίο χρόνο. Έχει αναδυθεί ένα τεράστιο κύμα συλλογικής αντίστασης σε όλο τον κόσμο — άνθρωποι που διαδηλώνουν ενάντια σε data centers, αγωγές για παραβίαση πνευματικών δικαιωμάτων, εργαζόμενοι που συνδικαλίζονται για να αποτρέψουν την ΤΝ από το να τους αντικαταστήσει. Και αυτές οι δράσεις αρχίζουν πραγματικά να επηρεάζουν την τροχιά της βιομηχανίας».
Αναφέρατε κάποια παραδείγματα κοινοτήτων που αντιστέκονται ωστόσο η ΤΝ φαίνεται να είναι ενσωματωμένη παντού πλέον, δημιουργώντας μια αίσθηση εξάρτησης μας από αυτήν – η οποία ενδεχομένως να είναι ψευδής. Πώς αντιστεκόμαστε πρακτικά σε αυτό;
«Πιστεύω ότι είναι όντως σε μεγάλο βαθμό λανθάνουσα η αίσθηση εξάρτησης. Πολλοί άνθρωποι πιστεύουν ότι χρειάζονται αυτά τα εργαλεία, ενώ θα μπορούσαν απλώς να σταματήσουν να τα χρησιμοποιούν αύριο και θα ήταν μια χαρά. Ο τρόπος για να αντισταθεί κανείς είναι να σκεφτεί στρατηγικά. Πρόσφατα λάνσαρα ένα project που ονομάζεται AI Resist List, μαζί με μια ομάδα ερευνητών ΤΝ, δημοσιογράφων και κριτικών μελετητών. Το βασίσαμε επάνω σε ένα εγχείρημα που είχε δημιουργηθεί για την αντίσταση ενάντια στον αυταρχισμό στις ΗΠΑ — και η οργανωτική αρχή ήταν η ίδια: μη σκέφτεσαι τον αντίπαλο ως ένα τεράστιο, αδιαίρετο μπλοκ εξουσίας, γιατί μετά σου φαίνεται αδύνατο το να τον αντιμετωπίσεις.
Αντ’ αυτού, εντόπισε τους συγκεκριμένους πυλώνες που τον στηρίζουν. Για την αυτοκρατορία της ΤΝ, αυτοί οι πυλώνες είναι: τα δεδομένα (χωρίς συνεχή πρόσβαση σε αυτά, οι τεχνολογίες απλώς δεν υπάρχουν), η εργασία (αν οι εταιρείες δεν μπορούσαν να εκμεταλλευτούν αυτή την εργασία, θα έπρεπε να μοιραστούν αυτόν τον πλούτο αντί να τον συγκεντρώνουν), η υπολογιστική υποδομή (αν δεν μπορούν να χτίσουν αυτά τα κέντρα, δεν μπορούν να εκπαιδεύσουν τα μοντέλα), ένα χαλαρό ρυθμιστικό πλαίσιο και η υιοθέτηση — αν ο κόσμος σταματούσε να χρησιμοποιεί αυτά τα προϊόντα, οι εταιρείες δεν θα μπορούσαν να τα εμπορευματοποιήσουν.
Ο τρόπος αντίστασης είναι να εντοπίσεις ποιους από αυτούς τους πυλώνες μπορείς πραγματικά να πλήξεις. Και οι περισσότεροι άνθρωποι μπορούν να δράσουν σε αρκετούς από αυτούς. Αν ζεις κοντά σε ένα προτεινόμενο κέντρο δεδομένων μπορείς να να αντιταχθείς στην κατασκευή του. Τα δεδομένα σου αντλούνται για να εκπαιδεύσουν αυτά τα μοντέλα — μπορείς να αλλάξεις τον τρόπο που αφήνεις data online. Σε όλα τα συμβόλαιά μου τώρα συμπεριλαμβάνω έναν όρο που αναφέρει ότι το περιεχόμενο δεν μπορεί να χρησιμοποιηθεί για εκπαίδευση ΤΝ. Έχω διαγράψει πολλούς από τους λογαριασμούς μου στα social media. Για όσους έχω κρατήσει, μπαίνω στις ρυθμίσεις και απενεργοποιώ τη δυνατότητα εκπαίδευσης με τα δεδομένα μου — ρύθμιση που διαθέτουν σχεδόν όλες οι πλατφόρμες, σε μεγάλο βαθμό χάρη στην ευρωπαϊκή νομοθεσία. Ως καταναλωτής, μπορείς να γίνεις πιο υπεύθυνος για το πότε χρησιμοποιείς αυτά τα εργαλεία και ποιες εταιρείες υποστηρίζεις. Ως εργαζόμενος, μπορείς να οργανωθείς και να συνδικαλιστείς. Ο καθένας έχει κάποια ικανότητα να αντισταθεί σε αυτούς τους πυλώνες. Και ακόμα και οι μικρότερες πράξεις συσσωρεύονται — όταν αρκετοί άνθρωποι τις κάνουν ταυτόχρονα, γίνονται κάτι πολύ σημαντικό. Ένας από τους λόγους που η βιομηχανία ΤΝ αρχίζει να κλονίζεται είναι ακριβώς η σωρευτική πίεση όλων αυτών των μικρών και μεγάλων πράξεων αντίστασης».
Τεχνητή νοημοσύνη: Φίλος ή εχθρός; Η Karen Hao σε μια συζήτηση με τον Ανδρέα Δρακόπουλο
Παρασκευή 26 Ιουνίου
12:10-12:40
