Όσο βελτιώνονται τα συστήματα Τεχνητής Νοημοσύνης (ΤΝ) τόσο πιο επικίνδυνα γίνονται, προειδοποιεί ο Geoffrey Hinton, ο ερευνητής που το 2024 τιμήθηκε με το Νόμπελ Φυσικής για το έργο του στο πεδίο της τεχνητής νοημοσύνης.
Η απειλή δεν αφορά τη λεγόμενη «τεχνολογική μοναδικότητα» (singularity), τη χρονική στιγμή δηλαδή που η ευφυΐα της τεχνητής νοημοσύνης θα ξεπεράσει την ανθρώπινη και ο «homo sapiens» θα δώσει την πρωτοκαθεδρία σε μια «machina sapiens». Αν και συχνά τίθεται το ζήτημα αυτό, παραμένει ανοικτό και ως προς την επίτευξη του εγχειρήματος και ως προς τον χρόνο πραγμάτωσής του. Η απειλή αφορά τη σκοτεινή πλευρά τής διττής φύσης της τεχνητής νοημοσύνης, που σκιάζει τις θετικές επιδράσεις της και οι συνέπειές της ήδη εγγράφονται στο κοινωνικό και πολιτικό πεδίο.
Οι αλγοριθμικές προκαταλήψεις, η επιτήρηση και η πολιτική χειραγώγηση της κοινωνίας, η πανοπτική ιχνηλασία του υποκειμένου στις ψηφιακές διαδρομές του, ο έλεγχος της γνώσης μέσω των μεγάλων γλωσσικών μοντέλων ΤΝ και της «λειτουργίας ΤΝ» στις αναζητήσεις αποτελεσμάτων στον διαδικτυακό ιστό, η πόλωση και ο έλεγχος του ψηφιακού δημόσιου λόγου στις πλατφόρμες κοινωνικής δικτύωσης, οι ανισότητες πρόσβασης, το αρνητικό περιβαλλοντικό αποτύπωμα, η «αόρατη εργασία» (ghost work) για τη λειτουργία της ΤΝ, η συγκέντρωση ισχύος στις μεγάλες τεχνολογικές εταιρείες και η ανάδειξη των τεχνο-ολιγαρχών σε ρυθμιστές του κοινωνικοπολιτικού πεδίου, αλλά και η διευκόλυνση των κυβερνοεπιθέσεων μεγάλης εμβέλειας, εντάσσονται στα υπαρκτά και άμεσα προβλήματα της τεχνητής νοημοσύνης.
Η δημοκρατία, για πρώτη φορά μετά τη συγκρότησή της στη νεότερη εποχή, καλείται να λειτουργήσει υπό την πίεση μιας «πλατφορμοποιημένης» δημόσιας σφαίρας. Το κοινό, όλο και περισσότερο, συμμετέχει στο ψηφιακό επικοινωνιακό πεδίο που ορίζουν οι πλατφόρμες κοινωνικής δικτύωσης οι ιδιοκτήτες των οποίων αποκτούν πρωτόγνωρη ισχύ αφού καθορίζουν τους όρους συμμετοχής και ελέγχουν τη ροή της πληροφορίας. Οι αλγόριθμοι των social media, μία από τις πρώιμες εφαρμογές της ΤΝ, διαχειρίζονται τη δικτύωση των χρηστών και προτείνουν περιεχόμενο είτε βάσει της δημοφιλίας του ευνοώντας το ακραίο, αμφιλεγόμενο και συχνά πολωτικό περιεχόμενο, είτε βάσει του προφίλ τους.
Προφίλ, που συγκροτείται, αφενός με τη συστηματική ιχνηλασία και καταγραφή των συνηθειών διαδικτυακής πλοήγησης, αφετέρου με την απεμπόληση του δικαιώματος στην ιδιωτικότητα των ίδιων των χρηστών, αφού, εθισμένοι στην έκθεση ιδιωτικών στιγμών, αναρτούν περιεχόμενο αδιαφορώντας για τη διάκριση δημόσιου-ιδιωτικού.
1Η αλγοριθμική ηγεμονία διαμορφώνει την αντίληψη για την πραγματικότητα, παρουσιάζοντας όμως μόνο ένα μέρος της στο κοινό, μια αλγοριθμική μερική πραγματικότητα στηριγμένη σε προϋπάρχουσες απόψεις και προκαταλήψεις, και, ως εκ τούτου, συχνά επικίνδυνη.
Η δημόσια σφαίρα υφίσταται την «επαναφεουδαρχοποίησή» της: οι αλγόριθμοι διαμεσολαβούν τη γνώση, οι πλατφόρμες οργανώνουν την ορατότητα, οι τεχνολογικές εταιρείες αποκτούν πολιτικό ρόλο, η παραπληροφόρηση καθίσταται δομικό χαρακτηριστικό και η αλήθεια αποκτά πολλαπλές εκδοχές, με την ίδια απαίτηση ισχύος. Το πρόθεμα μετα- δίπλα στις λέξεις «νεωτερικότητα», «δημοκρατία» και πλέον δίπλα στην «αλήθεια», γίνεται το συμβολικό χαρακτηριστικό της μετάβασης σ’ έναν κόσμο σχετικοποίησης των πάντων. Τα συνθετικά μέσα (deep fakes) ανατρέπουν την οντολογική βεβαιότητα του οπτικού τεκμηρίου και πολλαπλασιάζουν την παραπληροφόρηση με καταλυτικές συνέπειες για τη δημόσια σφαίρα, τον χώρο όπου διαμορφώνεται η κοινή γνώμη κι επομένως για την ίδια τη δημοκρατία.
Η εξαφάνιση της διάκρισης πραγματικού και ψευδούς διαβρώνει την όποια αξιοπιστία της πληροφορίας, υπονομεύει την εμπιστοσύνη και οδηγεί στην αδιαφορία για το αν κάτι είναι ή δεν είναι πραγματικό. Επιβεβαιώνεται η «προσωπική» αλήθεια, στηριγμένη σε προκαταλήψεις ενισχυμένες από τους αλγορίθμους. Τα συστήματα πρόβλεψης, οι μηχανισμοί εξατομίκευσης αλλά και τα μεγάλα γλωσσικά μοντέλα ΤΝ καθιστούν εφικτή μια άνευ προηγουμένου δυνατότητα επιρροής στη συμπεριφορά, στις προτιμήσεις και στα συναισθήματα των πολιτών.
Η ικανότητα των αλγοριθμικών συστημάτων για ολοκληρωτικό έλεγχο των πολιτών είναι τέτοια που ακόμη και το ενδεχόμενο μιας «φούσκας ΤΝ» ανάλογης της φούσκας «.com», σχετικοποιείται, δεδομένης της «υπεραξίας» αυτού του συστημικού «πλεονεκτήματος». Παράλληλα τίθεται το πρόβλημα της έγκαιρης ρύθμισης του πεδίου της ΤΝ, ώστε η τεχνολογία αυτή να αναπτύσσεται και να εφαρμόζεται με τρόπο συμβατό με τα ανθρώπινα δικαιώματα, τη δημοκρατία και την αειφορία. Όμως, πέραν της αδυναμίας μιας, αναγκαίας για να έχει νόημα η ρύθμιση, καθολικής εφαρμογής, η αντιπαράθεση για το ρυθμιστικό πλαίσιο αποτυπώνει τις υπάρχουσες γεωπολιτικές εντάσεις.
Οι Ηνωμένες Πολιτείες ασκούν πίεση κατά της ρυθμιστικής παρέμβασης συνδυάζοντας επιχειρήματα περί καινοτομίας και ελευθερίας της έκφρασης. Ο πρόεδρος Τραμπ και τεχνο-ολιγάρχες όπως ο Ιλον Μασκ ενσαρκώνουν τη «σύμπλεξη» τεχνολογικής και πολιτικής εξουσίας, απαιτώντας από την ΕΕ να υποχωρήσει στα ρυθμιστικά της πρότυπα. Η Ευρωπαϊκή Ένωση, παρά την αρχική υιοθέτηση του AI Act ως μοντέλου ισορροπίας μεταξύ καινοτομίας και προστασίας θεμελιωδών δικαιωμάτων, φαίνεται να υποχωρεί. Το Digital Omnibus (Νοέμβριος 2025) καθυστερεί κρίσιμες προστασίες κατά 16 μήνες, αποδυναμώνει απαιτήσεις διαφάνειας και διευκολύνει την επεξεργασία προσωπικών δεδομένων για εκπαίδευση συστημάτων ΤΝ. Στο ασταθές αυτό ρυθμιστικό οικοσύστημα, η Ένωση αναζητεί νέο σημείο ισορροπίας μεταξύ αξιών, οικονομίας και γεωπολιτικής.
Είναι μια επιπλέον αστάθεια σε ένα ρευστό παγκόσμιο περιβάλλον που προφανώς αντικατοπτρίζεται στον ψηφιακό χώρο. Ουσιαστικά, η αδυναμία ρύθμισης επιβεβαιώνει την αλγοριθμική ηγεμονία η οποία δεν είναι ανεξάρτητη των παγκόσμιων γεωπολιτικών εξελίξεων, της τεχνο-ολιγαρχικής εξουσίας και της υποχώρησης της δημοκρατίας.
*Η Μαρίνα Ρήγου είναι επίκουρη καθηγήτρια ΕΜΜΕ και δημοσιογράφος
