Κάτι λιγότερο από έναν χρόνο προτού ο όρος «τεχνο-ολιγαρχία» γίνει της μόδας, για να περιγράψει τη διαπλοκή του πολιτικού και του οικονομικο-τεχνολογικού που συναντά κανείς στην αμερικανική διοίκηση, ένας άλλος παρεμφερής όρος είχε κάνει την εμφάνισή του σε ένα σημαντικό βιβλίο: «τεχνολογικό πραξικόπημα».
Συγγραφέας του συγγράμματος με τίτλο The Tech Coup: How to Save Democracy from Silicon Valley (Princeton University Press, 2024) η Μαριέτε Σάακε.
Ευρωβουλευτής για μία δεκαετία (2009-2019), με ενεργό ρόλο στην προώθηση των ψηφιακών ελευθεριών και στην ενσωμάτωσή τους στην ευρωπαϊκή εξωτερική πολιτική, συνεργάτιδα σήμερα στο Κέντρο Κυβερνοπολιτικής του Πανεπιστημίου Στάνφορντ, η Σάακε υποστήριζε ότι ένα αόρατο «τεχνολογικό πραξικόπημα» βρίσκεται σε εξέλιξη, καθώς οι τεχνολογικοί κολοσσοί του ιδιωτικού τομέα αποκτούν όλο και μεγαλύτερη επιρροή στις διαδικασίες διαμόρφωσης και εφαρμογής πολιτικής, υποκαθιστώντας παραδοσιακές κρατικές λειτουργίες, χωρίς να περιορίζονται από τους κανόνες ελέγχου και λογοδοσίας. Νιώθει άραγε σήμερα δικαιωμένη στις εκτιμήσεις της;
«Μίλησα για πραξικόπημα», αναφέρει η Σάακε στο «Βήμα», «διότι έχουμε να κάνουμε με μια παράνομη υφαρπαγή εξουσίας. Μία από πιο συχνές ερωτήσεις που μου έκαναν ήταν μήπως ο όρος ήταν πολύ βαρύς. Σήμερα, εννέα μήνες μετά, όλοι βλέπουμε τι συμβαίνει στις ΗΠΑ: μια πλήρης συνέργεια ανάμεσα στους CEΟ των τεχνολογικών εταιρειών και την προεδρία Τραμπ. Το περίφημο Τμήμα Κυβερνητικής Αποτελεσματικότητας (DOGE) ουσιαστικά διέλυσε κυβερνητικές λειτουργίες και έδωσε πρόσβαση σε πολύ ευαίσθητα δεδομένα σε ανθρώπους για τους οποίους υπάρχει σύγκρουση συμφερόντων.
Ενα άλλο παράδειγμα είναι ο ρόλος των τεχνολογικών εταιρειών στην προώθηση των κρυπτονομισμάτων ή στην ανάδειξη παράλληλων δομών εξουσίας. Ή το πώς κατάφερνουν να εντάσσουν επιχειρηματικές παραμέτρους στη διαμόρφωση των αποφάσεων του προέδρου. Ισως ο όρος “πραξικόπημα” να μην είναι κιόλας πλέον επαρκής. Αυτό που συμβαίνει στις ΗΠΑ είναι το επόμενο λογικό βήμα αυτού που περιέγραψα στο βιβλίο μου ως συστημικό πρόβλημα. Νομίζω λοιπόν ότι η χρήση του όρου ήταν δικαιολογημένη, και αν το δει κανείς εκ των υστέρων ακόμη περισσότερο».
Η διαπλοκή του οικονομικού και του πολιτικού δεν είναι βεβαίως κάτι το καινοφανές. Για τη Σάακε όμως η σημερινή συγκυρία έχει κάτι το αλλότροπο: «Οι τεχνολογικές εταιρείες μπορούν να κάνουν μια σειρά από πράγματα αφανώς. Για παράδειγμα, η διαδικασία λήψης δεδομένων από το Ιντερνετ (scraping) για να εκπαιδευθούν τα μοντέλα τεχνητής νοημοσύνης είχε ήδη συμβεί προτού ο κόσμος το καταλάβει.
Το γεγονός ότι τόσο πολλή τεχνολογία είναι άυλη, αόρατη, αδιαφανής δυσκολεύει τον μέσο πολίτη, πολιτικό, δημοσιογράφο, ακτιβιστή, να αντιληφθεί τι γίνεται. Αυτό που παρατηρούμε είναι ότι όλη η κοινωνία, πλην των επικεφαλής των τεχνολογικών εταιρειών, τρέχει πίσω από τα γεγονότα. Μαθαίνουν τις εξελίξεις πολύ αργά για να τις αντιστρέψουν, και αυτό είναι ένα από τα μεγάλα προβλήματα.
Ενα δεύτερο στοιχείο είναι ότι η τεχνολογία δεν συνιστά έναν τομέα, είναι μια επίστρωση που ακουμπά τα πάντα. Οι τεχνολογικές πλατφόρμες είναι ο τόπος όπου λαμβάνει χώρα ο δημόσιος διάλογος, οι δε τεχνολογικές εταιρείες εμπλέκονται στα συστήματα Υγείας, στην εκπαίδευση, στην εθνική ασφάλεια, στις υποδομές, στις εκλογές, στο Διάστημα.
Ψηφιοποίηση σημαίνει κατ’ ουσίαν ιδιωτικοποίηση. Η ψηφιοποίηση είναι παντού, οπότε και η εξωτερική ανάθεση σε τεχνολογικές εταιρείες είναι παντού. Και το τελευταίο στοιχείο που διακρίνει την εξουσία των εταιρειών αυτών από την εξουσία που είχαν άλλες επιχειρήσεις στο παρελθόν είναι οι πληροφορίες που διαθέτουν για τη συμπεριφορά μας, για το τι σκεφτόμαστε, τι λέμε, τι αγοράζουμε, πώς κινούμαστε, τα συναισθήματά μας, τα τρωτά μας σημεία ως κοινωνίες».
Είναι η ρύθμιση η λύση; Και αν ναι, τι είδους; Επαρκούν άραγε οι παραδοσιακές θεσμικές μορφές και οι κλασικοί κανονιστικοί μηχανισμοί; «Υπάρχει ανάγκη για καινοτομία ή αλλαγή των θεσμών και της ρυθμιστικής διαδικασίας; Υπάρχει, διότι τα μοναδικά χαρακτηριστικά της τεχνητής νοημοσύνης δείχνουν ότι ο τρόπος που ρυθμίζουμε δεν αντιστοιχεί στον αντίκτυπο που έχει η τεχνολογία» τονίζει η Σάακε.
Προς επίρρωσιν του ισχυρισμού της, επικαλείται το γεγονός ότι τα μοντέλα τεχνητής νοημοσύνης είναι συνεχώς μεταβαλλόμενα, αλλά και απρόβλεπτα, ακόμη για τους ίδιους τους δημιουργούς τους, ενώ προσφέρουν έντονα εξατομικευμένες και προσωποποιημένες εμπειρίες.
Οπως σημειώνει, τα παραπάνω υποσκάπτουν την καθιερωμένη έννοια της ρύθμισης, σύμφωνα με την οποία παίρνεις ένα προϊόν ή μια υπηρεσία και την εξετάζεις με μεγάλη λεπτομέρεια, έχοντας στον νου σου ότι δεν πρόκειται να αλλάξει σε έναν μήνα. Η θέση της εν προκειμένω είναι σαφής: «Αυτό το ρυθμιστικό μοντέλο δεν λειτουργεί πλέον. Και νομίζω ότι εδώ πρέπει να καινοτομήσουμε».
Οπως προσθέτει, το πνεύμα της ευρωπαϊκής «αρχής της προφύλαξης» (precautionary principle) μπορεί να μας βοηθήσει προς αυτή την κατεύθυνση. «Το μάντρα της Σίλικον Βάλεϊ», αναφέρει η Σάακε, «είναι το εξής: να κινείσαι γρήγορα και να διαρρηγνύεις τα πράγματα. Μιλούν ακόμα και για “καινοτομία χωρίς άδεια” (permissionless innovation), εννοώντας ότι δεν χρειάζεται να ζητήσουν την άδεια κανενός για να κάνουν αυτό που κάνουν. Η αρχή της προφύλαξης της ΕΕ, ως έννοια, έχει ενδιαφέρον, καθώς υπογραμμίζει πως η καινοτομία μπορεί όμως να έχει μη σκοπούμενες συνέπειες», τις οποίες θα πρέπει να συμπεριλάβουμε στον συλλογισμό και την προσέγγισή μας.
«Η ιδέα ότι μια πολλά υποσχόμενη καινοτομία μπορεί να έχει ευρύτερο αντίκτυπο μακροπρόθεσμα είναι μια πτυχή της αρχής της προφύλαξης που μπορούμε να εφαρμόσουμε στην τεχνητή νοημοσύνη. Αυτό που συμβαίνει είναι ότι οι τεχνολογικές εταιρείες αναπτύσσουν ένα νέο μοντέλο και το ρίχνουν κατευθείαν στην αγορά. Δεν υπάρχει έτσι ο απαραίτητος χρόνος για να μάθουμε ποιες είναι οι πιθανές μη σκοπούμενες συνέπειες. Τι θα συμβεί σε τρεις μήνες; Τι θα γίνει εάν ζητήσεις από το μοντέλο να γίνει ρατσιστικό ή να φτιάξει βιολογικά όπλα; Είναι εντυπωσιακό το γεγονός ότι αφήνουμε μια τόσο ισχυρή τεχνολογία να κυκλοφορήσει αμέσως. Δεν πρέπει βεβαίως να σταματήσουμε την καινοτομία, θα έπρεπε όμως, στο όνομα του δημόσιου συμφέροντος, να πάρουμε κάποιον χρόνο μεταξύ καινοτομίας και κυκλοφορίας στην αγορά» υπογραμμίζει.
«Εάν ο οικονομικός ανταγωνισμός είναι ο μόνος φακός μέσα από τον οποίο βλέπουμε την τεχνητή νοημοσύνη, τότε η ρύθμιση θα ήταν ένα σημείο τριβής για την Ευρώπη και συνεπώς κάτι αρνητικό. Εάν όμως βάλουμε στην εξίσωση και άλλα πράγματα, όπως η δημόσια ασφάλεια, οι πολιτικές ελευθερίες, η διατήρηση της δημοκρατίας, τότε υπάρχουν και άλλοι στόχοι που αρχίζουν να διαδραματίζουν κάποιον ρόλο.
Και θεωρώ ότι εάν οι προβλέψεις των ειδικών, τόσο στα πανεπιστήμια όσο και στις εταιρείες, για την τεχνητή νοημοσύνη αποδειχθούν έστω και λίγο αληθινές, τότε οι κοινωνίες που δεν θα οικοδομήσουν προστατευτικά κιγκλιδώματα θα έχουν πολλά προβλήματα να αντιμετωπίσουν» τονίζει η Σάακε.
«Συχνά, από μια τεχνο-οπτιμιστική οπτική, οι τεχνολογικές εταιρείες αναγνωρίζουν την ύπαρξη αυτών των κινδύνων, το ενδεχόμενο περισσότερων κυβερνοεπιθέσεων, εντεινόμενης παραπληροφόρησης και απάτης, νέων διακρίσεων και προκαταλήψεων, αλλά υποστηρίζουν ότι μπορούν να τα αντιμετωπίσουν.
“Yπάρχουν προκλήσεις, αλλά μπορούμε να τις λύσουμε. Εμπιστευθείτε μας. Είστε σε καλά χέρια” μας λένε. Αυτός δεν είναι βεβαίως ο συνήθης τρόπος που λειτουργεί μια κοινωνία. Δεν εμπιστευόμαστε τυφλά τις εταιρείες κατασκευής αυτοκινήτων στα ζητήματα ασφάλειας, για παράδειγμα. Δεν εμπιστευόμαστε τυφλά τις φαρμακευτικές εταιρείες ότι θα κάνουν το σωστό, αντιστοίχως. Ολα αυτά τα επαληθεύουμε, δημιουργώντας μηχανισμούς και ρυθμιστικά πλαίσια» προσθέτει.
Παρά την έντονη κριτική της, η πρώην ευρωβουλευτής παραμένει πάντως αισιόδοξη ως προς τις δυνατότητες αλλαγής του υφιστάμενου μοντέλου, τουλάχιστον στην Ευρώπη: «Ζούμε μια σκοτεινή, πολύ σκοτεινή στιγμή. Αλλά η στιγμή αυτή μπορεί να γίνει μια τεράστια ευκαιρία για την Ευρώπη».
