Στην καρδιά του σύγχρονου πολιτικού και κοινωνικού προβληματισμού δεσπόζει ένα ερώτημα που κρύβει μέσα του την υπαρξιακή αγωνία της δημοκρατίας στον 21ο αιώνα. Ποιος ελέγχει, τελικά, τη δημόσια σφαίρα;
Σήμερα, η καθημερινότητά μας ενέχει εν πολλοίς την ψηφιακότητα. Εργαζόμαστε, επικοινωνούμε, καταναλώνουμε συνδεδεμένοι σε ψηφιακές πλατφόρμες, οι οποίες συναποτελούν κοινωνικά δίκτυα. Στον απόηχο των τεχνολογιών παραγωγικής τεχνητής νοημοσύνης (Generative AI) ο τρόπος που παράγεται, διανέμεται και καταναλώνεται η πληροφορία διέρχεται έναν οντολογικό μετασχηματισμό.
Η κυριαρχία των μεγάλων πλατφορμών
Η τεχνητή νοημοσύνη σε συνδυασμό με την εδραιωμένη κυριαρχία των μεγάλων ψηφιακών πλατφορμών (Big Tech), έχει επανακαθορίσει το πώς λειτουργούμε στον ψηφιακό δημόσιο χώρο, διαμορφώνοντας ένα νέο παράδειγμα πολιτικής οικονομίας. Οι όροι της ψηφιακής μας ζωής καθορίζονται λιγότερο από διαδικασίες δημοκρατικής διαβούλευσης και περισσότερο από τους αδιαφανείς αλγορίθμους των μεγάλων πλατφορμών.
Η ανθρώπινη δραστηριότητα στον ψηφιακό χώρο παράγει συνεχώς δεδομένα. Το ψηφιακό μας αποτύπωμα αποθηκεύεται, αναλύεται και εμπορευματοποιείται. Χαρακτηριστική είναι η φράση «όταν είναι το προϊόν δωρεάν, τότε εσύ είσαι το προϊόν». Πρόκειται για τον λεγόμενο Καπιταλισμό της Επιτήρησης, όπως αναφέρει η Zuboff. Οι μεγάλες πλατφόρμες βασίζονται ολοένα και περισσότερο σε αλγορίθμους μηχανικής μάθησης για να οργανώσουν τον τεράστιο όγκο περιεχομένου και να κρατήσουν αμείωτη την προσοχή των χρηστών, καθώς αυτή ποσοτικοποιείται σε κέρδος για τις ίδιες τις πλατφόρμες. Το ψηφιακό περιεχόμενο της ροής πληροφορίας στα μέσα κοινωνικής δικτύωσης είναι διαφορετικό για τον κάθε χρήστη σύμφωνα με τις συστάσεις των αλγορίθμων.
Ερχόμαστε αντιμέτωποι με τη δυστοπική προοπτική της «Θεωρίας του Νεκρού Διαδικτύου». Η θεωρία αυτή, που κάποτε φάνταζε ως σενάριο επιστημονικής φαντασίας, βρίσκει πλέον ισχυρά ερείσματα στη βιωμένη πραγματικότητα.
Ωστόσο, οι αλγόριθμοι δεν αντανακλούν απλώς τις προτιμήσεις μας, αλλά και τις διαμορφώνουν, οδηγώντας μας σε όλο και πιο στενά «φίλτρα πληροφόρησης» μέσα από την επαναληπτικότητα παρόμοιου περιεχομένου. Οταν μάλιστα μεγάλο μέρος των νεότερων χρηστών δηλώνει ότι εμπιστεύεται περισσότερο τα μέσα κοινωνικής δικτύωσης από τις παραδοσιακές πηγές ειδήσεων, φαίνεται πως οι αλγόριθμοι αυτοί έχουν τεράστια επίδραση στην κοινή γνώμη.
Η εισαγωγή της παραγωγικής ΤΝ επιτρέπει στις πλατφόρμες να υπερβούν την απλή «εξόρυξη» (extraction) και να περάσουν στη «συνθετική παραγωγή» (synthetic generation). Οι αλγόριθμοι δεν παρατηρούν απλώς τι κάνουμε για να προβλέψουν τι θα κάνουμε στη συνέχεια. Πλέον, έχουν τη δυνατότητα να κατασκευάζουν ενεργά τα ερεθίσματα που θα προκαλέσουν την επιθυμητή συμπεριφορά.
Το προσωποποιημένο περιεχόμενο
Η ΤΝ ενισχύει την προσωποποίηση της εμπειρίας. Από εξατομικευμένες ειδοποιήσεις μέχρι στοχευμένες διαφημίσεις, οι πλατφόρμες χρησιμοποιούν μοντέλα πρόβλεψης για να προσαρμόσουν το περιεχόμενο στα ενδιαφέροντα κάθε χρήστη. Το TikTok έγινε δημοφιλές χάρη στον «εθιστικό» αλγόριθμο For You, που μαθαίνει τις προτιμήσεις από ελάχιστες αλληλεπιδράσεις και προσφέρει συνεχή ροή συναφών βίντεο.
Αντίστοιχα, το YouTube βασίζεται σε ΤΝ τόσο για προτάσεις βίντεο όσο και για αυτόματο φιλτράρισμα σχολίων και εντοπισμό παραβιάσεων πνευματικών δικαιωμάτων, ενώ το X/Twitter χρησιμοποιεί ένα αλγοριθμικό timeline και μοντέλα ανίχνευσης ανεπιθύμητου περιεχομένου (spam) ή ρητορικής μίσους. Συνολικά, οι αλγόριθμοι έχουν αναδειχθεί σε νέους «ρυθμιστές» της δημόσιας συζήτησης, αντικαθιστώντας εν μέρει τους ανθρώπινους μηχανισμούς στην επιλογή τού τι πληροφορία βλέπει το κοινό. Ενα χαρακτηριστικό παράδειγμα που δείχνει πόσο έχει αλλάξει ο τρόπος με τον οποίο προσλαμβάνουμε την πληροφορία αποτελεί το ρομπότ συνομιλίας «Tako». Σε δοκιμαστική λειτουργία, το TikTok εισήγαγε το «Tako», που απαντά σε ερωτήματα χρηστών ενώ παράλληλα προτείνει συναφή βίντεο. Οπως μετέδωσε το Reuters, όταν ένας χρήστης ρώτησε «Πότε έγινε η στέψη του βασιλιά Κάρολου;», το Tako απάντησε με ακρίβεια και εμφάνισε σχετικά βίντεο.
Οι αλγόριθμοι της ΤΝ φαίνεται πως μπορούν να συμβάλλουν σε μια «στροφή στον εαυτό» για τα άτομα-χρήστες.
Ο έλεγχος του περιεχομένου
Πέρα από τις συστάσεις, η τεχνητή νοημοσύνη χρησιμοποιείται ευρέως και στη διαχείριση περιεχομένου (content moderation). Τέτοια αυτόματα φίλτρα (content classifiers) εκπαιδεύονται να ανιχνεύουν λόγο μίσους, πορνογραφία, παραπληροφόρηση κ.λπ. Ωστόσο, η αξιοπιστία και η διαφάνεια αυτών των αλγορίθμων τυγχάνει αμφισβήτησης. Συχνά εμφανίζουν μεροληψίες ή λάθη, εγείροντας ζητήματα λογοκρισίας και ελευθερίας του λόγου. Επίσης, διαφορετικές πλατφόρμες υιοθετούν διαφορετικούς ορισμούς «επιβλαβούς» περιεχομένου, οδηγώντας σε ασυνέπειες και αμφισβήτηση της νομιμοποίησης αυτών των αποφάσεων. Οι αλγόριθμοι λειτουργούν βάσει της «λειτουργικής αφαίρεσης» (functional abstraction). Αυτή η διαδικασία περιλαμβάνει τον διαχωρισμό των δεδομένων από τα κοινωνικά, ιστορικά και πολιτικά τους συμφραζόμενα, προκειμένου να μεγιστοποιηθεί η μετρήσιμη αποδοτικότητά τους. Το αποτέλεσμα είναι η δημιουργία συστημάτων που, ενώ φαίνονται ουδέτερα, αναπαράγουν και ενισχύουν ανισότητες.
Οι πολίτες υπόκεινται σε αποφάσεις ζωτικής σημασίας –από την πρόσληψη σε εργασία και τη χορήγηση δανείων μέχρι την αστυνόμευση και την ασφάλιση, οι οποίες λαμβάνονται από αδιαφανή συστήματα ΤΝ. Τα υποκείμενα των αποφάσεων στερούνται των μέσων να κατανοήσουν ή να αμφισβητήσουν τη λογική πίσω από αυτές τις αποφάσεις, καθώς η γνώση και η επακόλουθη δυνατότητα ερμηνείας συγκεντρώνονται αποκλειστικά στα χέρια των εταιρειών που κατέχουν τους αλγορίθμους. Οι πλατφόρμες κοινωνικής δικτύωσης εισέρχονται έτσι σε μια νέα φάση, όπου μεγάλο μέρος του περιεχομένου μπορεί να παράγεται από μηχανές.
Η εκθετική ανάπτυξη της χρήσης Τεχνητής Νοημοσύνης
Οπως σημειώνει έκθεση του ΟΟΣΑ, καθώς αυτά τα μοντέλα διατίθενται ευρύτερα, το διαδίκτυο σύντομα «θα κατακλυστεί από περιεχόμενο που παράγεται από ΤΝ», δημιουργώντας ένα νέο ζήτημα. Οι πολίτες-χρήστες θα πρέπει πλέον να διατηρούν την αμφιβολία πως κάθε κείμενο, εικόνα ή βίντεο που συναντούν μπορεί να έχει παραχθεί (εν μέρει ή εξ ολοκλήρου) από ΤΝ. Οι τεχνολογίες της ΤΝ επιτρέπουν -ολοένα και με πιο εύστοχο τρόπο- τη μαζική παραγωγή άρθρων, αναρτήσεων ή ακόμη και deepfake βίντεο που μιμούνται υπαρκτά πρόσωπα, καθιστώντας δυσκολότερο να ξεχωρίσει κανείς την αλήθεια από το ψέμα. Η αυτοματοποίηση της προπαγάνδας μοιάζει να είναι μια παρούσα πραγματικότητα. Με τη χρήση χιλιάδων ρομπότ που δημοσιεύουν συντονισμένα μηνύματα, μπορεί να δημιουργηθεί η ψευδαίσθηση ευρείας υποστήριξης (ή αντίθεσης) σε μια ιδέα, ένα πρόσωπο, μια εταιρεία, πράγμα που αποτελεί μια μορφή ψηφιακής προπαγάνδας που υπονομεύει κατάφωρα τις δημοκρατικές διαδικασίες.
Ο άνθρωπος κινδυνεύει να βρεθεί «εκτός του βρόχου», περιοριζόμενος στον ρόλο του τελικού καταναλωτή μιας προ-επεξεργασμένης πραγματικότητας.
Οι μεγάλες πλατφόρμες μετατρέπονται σε «κονίστρες διαμάχης πληροφοριών» όπου επηρεάζονται συνειδήσεις σε μαζική κλίμακα. Ταυτόχρονα, όπως επισημαίνει έκθεση της UNESCO, η ενσωμάτωση αλγορίθμων σε όλη την αλυσίδα της πολιτιστικής παραγωγής αναδιαμορφώνει τις έννοιες της πρωτοτυπίας, της πατρότητας και της ποικιλότητας των προϊόντων καλλιτεχνικής παραγωγής. Τα σύγχρονα μοντέλα μπορούν να μιμηθούν πειστικά φωνές και πρόσωπα, δημιουργώντας δηλώσεις πολιτικών ή διασήμων που ποτέ δεν έγιναν στην πραγματικότητα. Αυτό το κύμα παραπληροφόρησης απειλεί να διαβρώσει περαιτέρω την εμπιστοσύνη του κοινού. Αν οτιδήποτε μπορεί να πλαστογραφηθεί πειστικά, πώς διασφαλίζεται τελικά η ακεραιότητα της πληροφορίας;
Οι αλγόριθμοι προτάσεων, στην προσπάθειά τους να μεγιστοποιήσουν την εμπλοκή των χρηστών (engagement), τείνουν να προωθούν εντυπωσιοθηρικό ή αμφιλεγόμενο περιεχόμενο ακόμα κι αν αυτό είναι προϊόν ΤΝ δημιουργώντας «θαλάμους αντήχησης» όπου οι χρήστες εκτίθενται κυρίως σε απόψεις που ήδη συμμερίζονται. Αυτό τροφοδοτεί τον κοινωνικό διχασμό και την πόλωση, καθώς μειώνεται η κοινή βάση γεγονότων και εντείνεται η εχθρότητα μεταξύ αντίθετων «στρατοπέδων».
Οι πλατφόρμες με «συνθετικούς χρήστες» που θα προσομοιώνουν ανθρώπινες συμπεριφορές για σκοπούς μάρκετινγκ ή πολιτικής χειραγώγησης καθιστούν δυσδιάκριτα τα όρια μεταξύ πραγματικού και πλαστού περιεχομένου, ανθρώπου και μηχανής, πληροφόρησης και παραπληροφόρησης. (Unsplash)
Το «Νεκρό Διαδίκτυο»
Καθώς ατενίζουμε το μέλλον της ψηφιακής επικοινωνίας, ερχόμαστε αντιμέτωποι με τη δυστοπική προοπτική της «Θεωρίας του Νεκρού Διαδικτύου» (Dead Internet Theory). Η θεωρία αυτή, που κάποτε φάνταζε ως σενάριο επιστημονικής φαντασίας, βρίσκει πλέον ισχυρά ερείσματα στη βιωμένη πραγματικότητα. Πληθώρα ερευνών αναφέρει πως σχεδόν το 50% της παγκόσμιας διαδικτυακής κίνησης προέρχεται από μηχανές-ρομπότ, ενώ παράλληλα οι πλατφόρμες περιεχομένου κατακλύζονται από κείμενα και εικόνες που έχουν παραχθεί από μηχανές.
Η μαζική παραγωγή περιεχομένου από την ΤΝ (το λεγόμενο «AI slop») απειλεί να πνίξει την ανθρώπινη φωνή σε έναν ωκεανό ψηφιακού θορύβου. Το φαινόμενο αυτό οδηγεί σε έναν φαύλο κύκλο γνωστό ως «κατάρρευση των μοντέλων» (model collapse): καθώς τα μελλοντικά μοντέλα ΤΝ θα εκπαιδεύονται πάνω σε δεδομένα που έχουν παραχθεί από προγενέστερα μοντέλα ΤΝ, η ποιότητα της πληροφορίας θα φθίνει και η ανθρώπινη δημιουργική ποικιλομορφία θα εξαλείφεται, οδηγώντας σε μια ομογενοποιημένη, αποστειρωμένη ψηφιακή πραγματικότητα. Σε αυτό το περιβάλλον, η ίδια η φύση της επικοινωνίας μεταλλάσσεται.
Η «Διαμεσολαβούμενη από ΤΝ Επικοινωνία» (AI-Mediated Communication – AI-MC) εισβάλλει στις διαπροσωπικές σχέσεις. Οταν οι αλγόριθμοι αναλαμβάνουν τη σύνταξη των μηνυμάτων μας, η επικοινωνία μπορεί φαινομενικά να γίνεται πιο «αποτελεσματική» και τυπικά ευγενική, ωστόσο στην πράξη διαβρώνεται η «επιστημική εμπιστοσύνη» (epistemic trust). Ο παραλήπτης δεν γνωρίζει πλέον αν επικοινωνεί με άνθρωπο ή με μηχανή, γεγονός που υπονομεύει τη βάση της κοινωνικής συνοχής.
Η στρατηγική απέναντι στην κρατική ρύθμιση
Απέναντι στην αυξανόμενη κριτική και τις ρυθμιστικές πιέσεις, οι μεγάλες τεχνολογικές εταιρείες που διαμεσολαβούν στην ψηφιακή ανθρώπινη επικοινωνία επιχειρούν να επηρεάσουν τον δημόσιο διάλογο σχετικά με την ηθική της ΤΝ μέσω της μαζικής χρηματοδότησης ακαδημαϊκών ερευνών, συνεδρίων και ινστιτούτων δεοντολογίας. Η στρατηγική αυτή, γνωστή και ως «ethics washing» (ξέπλυμα ηθικής), στοχεύει στην προώθηση της αυτορύθμισης (selfregulation) ως προτιμητέας εναλλακτικής έναντι της κρατικής νομοθεσίας, στον περιορισμό της ηθικής συζήτησης σε τεχνικά ζητήματα, στην απορρόφηση των επικριτών μέσω της ενσωμάτωσής τους σε συμβουλευτικά όργανα, αδρανοποιώντας με αυτό τον τρόπο την κριτική τους.
Η διασάλευση της δημοκρατικής διαβούλευσης
Πώς θα μοιάζει το τοπίο των μέσων κοινωνικής δικτύωσης στο εγγύς μέλλον; Η απάντηση βρίσκεται στην ανάδυση ενός μοντέλου ενεργητικής αλληλεπίδρασης πρακτόρων (Agentic AI), χωρίς την εμπλοκή των ανθρώπων-χρηστών. Γίνεται συζήτηση για ένα «αόρατο διαδίκτυο», όπου μεγάλο μέρος της ψηφιακής δραστηριότητας δεν θα είναι ορατό στον άνθρωπο. Προσωπικοί ψηφιακοί βοηθοί (AI Agents) θα διαπραγματεύονται απευθείας με άλλους πράκτορες για να κλείσουν εισιτήρια, να κάνουν αγορές ή να οργανώσουν το πρόγραμμά μας. Ο άνθρωπος κινδυνεύει να βρεθεί «εκτός του βρόχου» (human out of the loop), περιοριζόμενος στον ρόλο του τελικού καταναλωτή μιας προ-επεξεργασμένης πραγματικότητας.
Οι αλγόριθμοι της ΤΝ φαίνεται πως μπορούν να συμβάλλουν σε μια «στροφή στον εαυτό» για τα άτομα-χρήστες. Το επόμενο βήμα των «θαλάμων αντήχησης» είναι ένα καθεστώς υπερ-εξατομικευμένης μοναξιάς. Η ικανότητα της ΤΝ να αναλύει συμπεριφορικά δεδομένα θα οδηγήσει σε ακραία εξατομίκευση (hyper-personalization). Οι αλγόριθμοι δεν θα προτείνουν απλώς περιεχόμενο, αλλά θα δημιουργούν συνθετικούς «φίλους» και συντρόφους (AI Companions) προσαρμοσμένους στις ψυχολογικές ανάγκες του καθενός. Ενώ αυτό μπορεί να προσφέρει μια επιφανειακή και προσωρινή ανακούφιση από τη μοναξιά, ελλοχεύει ο κίνδυνος της «συναισθηματικής ατροφίας». Οι χρήστες, εκτιθέμενοι σε σχέσεις χωρίς προστριβές και απαιτήσεις, ενδέχεται να απολέσουν τις κοινωνικές δεξιότητες που απαιτούνται για την ανθρώπινη συμβίωση.
Η δημοκρατική διαβούλευση στον ψηφιακό χώρο τίθεται εν αμφιβόλω λόγω της εκτεταμένης παρουσίας μη-ανθρώπινων ψηφιακών δρώντων-χρηστών και γενικότερα προϊόντων που έχουν παραχθεί από ΤΝ. Οι πλατφόρμες με «συνθετικούς χρήστες» που θα προσομοιώνουν ανθρώπινες συμπεριφορές για σκοπούς μάρκετινγκ ή πολιτικής χειραγώγησης καθιστούν δυσδιάκριτα τα όρια μεταξύ πραγματικού και πλαστού περιεχομένου, ανθρώπου και μηχανής, πληροφόρησης και παραπληροφόρησης.
Τίθεται, λοιπόν, εκ νέου το ερώτημα. Σε ποιον ανήκει η ψηφιακή δημόσια σφαίρα;
