Το Διαδίκτυο ως συνολική οντότητα είναι εξόχως ευάλωτο. Ενα σφάλμα σε ένα ιδιαίτερα ευαίσθητο πρωτόκολλο, μια κακόβουλη παρέμβαση στην κινητή τηλεφωνία, ο αποκλεισμός της πρόσβασης από αυταρχικούς ηγέτες θα μπορούσαν να ρίξουν ολόκληρο το δίκτυο για ένα απροσδιόριστο χρονικό διάστημα αλλάζοντας τη ζωή μας απότομα.
Αυτό είναι το θέμα του βιβλίου «Error 404. Ετοιμοι για έναν κόσμο χωρίς Ιντερνετ;» (μτφρ. Δήμητρα Παπαβασιλείου, εκδ. Καστανιώτη) όπου η ισπανίδα δημοσιογράφος για θέματα επιστήμης και τεχνολογίας Εστέρ Πανιάγουα αναλύει μια σειρά αυξανόμενων παρόμοιων κινδύνων αλλά και τη σημερινή αβέβαιη κατάσταση πραγμάτων της ψηφιακής σφαίρας.
Σε μια συζήτηση με τον γνωστό συγγραφέα Νίκο Α. Μάντη μιλούν για την τεχνητή νοημοσύνη και την κυβερνοασφάλεια, το παρόν και το μέλλον της ψηφιακής τεχνολογίας, τις προσδοκίες και τις ψευδαισθήσεις της.
Νίκος Α. Μάντης: «Το βιβλίο σου είναι μια τεκμηριωμένη πραγματεία όχι για το αν θα πέσει το Ιντερνετ, αλλά για το πότε. Μια πρώτη, γενική ερώτηση: ποιο είναι το βασικό κίνητρο πίσω από τη συγγραφή του;».
Εστέρ Πανιάγουα: «Ας πούμε ότι ένιωσα ένα κάλεσμα εγώ ως δημοσιογράφος. Εγραφα σχετικά άρθρα και πολλοί που γνώριζαν την ενασχόλησή μου με επιστημονικά ζητήματα αιχμής με ρωτούσαν πότε θα γράψω και ένα βιβλίο. Απάντησα πως δεν έχω κάποιο κίνητρο για κάτι τέτοιο. Ωστόσο, όταν άρχισα να ασχολούμαι με το ζήτημα ενός πιθανού μπλακ άουτ του Διαδικτύου, όταν άκουσα μια σχετική συνέντευξη του φιλοσόφου Ντάνιελ Ντένετ, αναρωτήθηκα “μα γιατί δεν μιλάμε για αυτό;” και σκέφτηκα ότι για αυτό όντως άξιζε να γράψω ένα βιβλίο! Σήμερα, όχι μόνο όλες οι υπηρεσίες εξαρτώνται από το Διαδίκτυο, αλλά και εμείς είμαστε εξαρτημένοι ακόμη και συναισθηματικά από αυτό. Θέλησα να καταλάβω τι θα γίνει αν πέσει, αν είναι πιθανό να συμβεί και ποιες θα ήταν οι ενδεχόμενες συνέπειες».
Ν.Μ.: «Προσωπικά, το θεωρώ ένα συναρπαστικό ανάγνωσμα. Πέρα από βιβλίο επιστημονικό ή δημοσιογραφικό είναι και ένα βιβλίο το οποίο έχει μία φοβερή αφηγηματικότητα. Επίσης, εδώ υπήρξε και μία απίστευτη σύμπτωση έμπνευσης, αν θα μπορούσα να το πω με αυτόν τον τρόπο – ή φαντασίας. Γράφεις σε σχέση με την τεχνητή νοημοσύνη ότι στην Εσθονία ήδη κάποιες κατώτερες βαθμίδες του συστήματος απονομής δικαιοσύνης έχουν ανατεθεί στην τεχνητή νοημοσύνη, κάτι που συμβαίνει και στην Κίνα, όπως έγραψα κι εγώ στο πρόσφατο μυθιστόρημά μου “Αδύνατες πόλεις” ότι στο μέλλον θα απονέμουν δικαιοσύνη τεχνητοί δικαστές, εικασία που τοποθέτησα τουλάχιστον 50 χρόνια μετά. Και σοκαρίστηκα όταν διάβασα ότι αυτό που θεωρούσα δική μου επινόηση υπάρχει ήδη. Για εμένα αυτό ήταν μία φοβερή προειδοποίηση για το μέλλον. Εστέρ, δεν μπήκες στον πειρασμό κάποια στιγμή να δώσεις μία παραπάνω αφηγηματική πνοή στο βιβλίο, να γεννηθούν κάποιες ιστορίες μέσα από αυτό;».
«Αν πέσει το Διαδίκτυο, πλέον έχουμε πρόβλημα παντού. Ακόμα και στον τρόπο λειτουργίας των σουπερμάρκετ ή των νοσοκομείων, που χωρίς πρόσβαση στο Διαδίκτυο δεν μπορούν να δεχθούν ασθενείς»
Εστέρ Πανιάγουα
Ε.Π.: «Είχα συγκεκριμένο σκοπό όταν το έγραφα. Σκέφτηκα όντως να μπω στο κομμάτι της μυθιστοριογραφίας. To πρώτο κεφάλαιο, ας πούμε, να ήταν μυθοπλαστικό, ένα πιθανό σενάριο μπλακ αουτ, πάνω στο οποίο θα “χτιζόταν” το υπόλοιπο βιβλίο. Επέλεξα όμως μια μορφή διαφορετική, που ελπίζω πάντως να διατηρεί, όπως είπες, την αφηγηματικότητά της. Χωρίς να μπω σε τεχνικές λεπτομέρειες, το Διαδίκτυο και η ηλεκτρική ενέργεια είναι οι δύο πιο κρίσιμες υποδομές και αυτό που θα βλέπαμε αν ξαφνικά έπεφτε το Ιντερνετ θα ήταν κάτι σαν αυτό που είδαμε όταν έπεσε το σύστημα παροχής ηλεκτρικού ρεύματος στην Ιβηρική Χερσόνησο πριν από δύο μήνες, την κατάρρευση των τηλεπικοινωνιών και του Διαδικτύου.
Εντάξει, όταν συμβαίνει κάτι τόσο εκτεταμένο, τα συστήματα καταρρέουν, κανείς δεν είναι απόλυτα προετοιμασμένος. Ωστόσο, ειδικά με τον ηλεκτρισμό και το Διαδίκτυο, το πρόβλημα είναι, αν μπορούμε να το πούμε έτσι, πολυοργανικό, γιατί από αυτά εξαρτώνται τα πάντα. Αν πέσει το Διαδίκτυο, πλέον έχουμε πρόβλημα παντού. Ακόμα και στον τρόπο λειτουργίας των σουπερμάρκετ ή των νοσοκομείων, που χωρίς πρόσβαση στο Διαδίκτυο δεν μπορούν να δεχθούν ασθενείς».
Ν.Μ.: «Για την κατάσταση με την ηλεκτρική ενέργεια το μπλακ άουτ της Ιβηρικής είναι αναμφισβήτητη προειδοποίηση. Το ζήτημα είναι αν μπορεί να αλλάξει κάτι η εμπειρία του».
Ε.Π.: «Οταν είχα πάρει συνέντευξη από τον ισπανό διευθυντή Προστασίας Κρίσιμων Υποδομών, μου είχε πει ότι θεωρούσαν απίθανο ένα απόλυτο μπλακ άουτ σε μια ολόκληρη χώρα. Θα ήταν σαν σενάριο επιστημονικής φαντασίας. Ωστόσο, καθώς συνδέουμε όλο και περισσότερα πράγματα στο δίκτυο, κάτι τέτοιο αρχίζει να μοιάζει όλο και πιο πιθανό.
Και τα πράγματα που θεωρούμε αδύνατον να συμβούν τελικά συμβαίνουν. Αν συμβεί μια μεγάλη κυβερνοεπίθεση, για παράδειγμα, τι θα γίνει; Οφείλουμε να θέσουμε σοβαρά το ερώτημα σε εταιρείες και οργανισμούς ως προς το αν έχουν διαμορφώσει σχέδια για το πώς θα λειτουργήσουν σε έναν αναλογικό κόσμο. Κανένας δεν έχει σκεφτεί κάτι τέτοιο, διότι αν φύγει το Διαδίκτυο θα πρέπει να γυρίσουμε στο χαρτί και το μολύβι. Κανένας, όμως, δεν έχει σκεφτεί ένα τέτοιο σενάριο».
N.M.: «To ζήτημα της εξάρτησής μας από το Ιντερνετ είναι δεδομένο. Σκέφτομαι αυτό που αναφέρεις ότι αντιμετωπίζουμε μια νέα ψηφιακή τυραννία. Πού οδηγεί όλο αυτό πιστεύεις;».
Ε.Π.: «Θεωρώ τον εαυτό μου παθιασμένη οπαδό του Ιντερνετ, χρησιμοποιώ υπολογιστή από το 1996. Αν τώρα, έπειτα από τόσα χρόνια, ασκώ την κριτική που ασκώ είναι επειδή πρέπει να επιμείνουμε σε έναν καλύτερο ψηφιακό κόσμο, σε μια καλύτερη τεχνητή νοημοσύνη. Θέλω μια τεχνολογία που τηρεί τις υποσχέσεις – γιατί μέχρι τώρα δεν το έχει κάνει. Στην αρχή μάς έλεγαν ότι το Διαδίκτυο θα βελτιώσει τη δημοκρατία και θα μας ελευθερώσει. Στην πορεία το είδαμε να εμπορευματοποιείται, να επικρατεί η λογοκρισία, να κερδίζουν λίγοι, ενώ όλοι οι υπόλοιποι βλέπουμε να μας κλέβουν τα στοιχεία, την ιδιωτική και προσωπική μας ζωή.
Το ίδιο φαίνεται να συμβαίνει και με την τεχνητή νοημοσύνη. Λύνουμε πολλά προβλήματα, αλλά είναι πολύ λίγες οι εταιρείες που πλουτίζουν και επιπλέον συμβάλλουν στη δημιουργία νέων προβλημάτων, όπως ο τεράστιος περιβαλλοντικός αντίκτυπος της τεχνητής νοημοσύνης. Επιπλέον, επιδεινώνει προβλήματα που προϋπήρχαν, όπως η παραπληροφόρηση, η εξάρτηση από την υπερσυνδεσιμότητα, από τις οθόνες. Πρέπει λοιπόν να διαχωρίσουμε την κοινωνική πρόοδο από την τεχνολογική πρόοδο.
Για την κοινωνική πρόοδο χρειαζόμαστε πολιτικές που θα στρέψουν προς αυτή την κατεύθυνση τα τεχνολογικά μας επιτεύγματα, θέλουμε πολίτες ενεργούς. Αλλά το μόνο που βλέπουμε προς το παρόν είναι κάποιους υπερισχυρούς, τους μεγάλους τεχνολογικούς κολοσσούς, να θέλουν να αλλάξουν ακόμα και τους νόμους και το ρυθμιστικό πλαίσιο για την προστασία των δικαιωμάτων μας στην Ευρωπαϊκή Ενωση! Πρέπει εμείς να επιβάλουμε να αλλάξουν τα πράγματα. Αλλιώς είναι σαν να τους λέμε “κάντε ό,τι θέλετε με εμάς, μετατρέψτε τις ζωές μας σε κέρδος σας”».
Ν.Μ.: «Θα επιστρέψω στην εγρήγορση των θεσμών και των κυβερνήσεων όσον αφορά τα ζητήματα ασφαλείας. Η εικόνα που δίνεις είναι αυτή επίσημων παραγόντων απροετοίμαστων απέναντι στα προβλήματα που μπορεί να προκύψουν. Η εμπειρία της πρόσφατης πανδημίας μάς το έδειξε νομίζω καλά αυτό».
Ε.Π.: «Η περίπτωση της COVID-19 είναι χαρακτηριστικό παράδειγμα του πώς αντιμετωπίζουμε αυτά τα θέματα. Κανείς από εμάς δεν περίμενε μια πανδημία. Ωστόσο οι επιστήμονες προειδοποιούσαν επί χρόνια ότι κάτι τέτοιο ήταν πιθανό. Πέρα από τους επιστήμονες, όμως, δεν ενδιαφέρθηκε κανείς άλλος. Με την κυβερνοασφάλεια συμβαίνει ακριβώς το ίδιο. Σίγουρα, είμαστε περισσότερο υποψιασμένοι κυρίως λόγω της εισβολής της Ρωσίας στην Ουκρανία.
Οι αρμόδιες ρυθμιστικές αρχές της Ισπανίας ερεύνησαν τι έγινε με το μπλακ άουτ και κατέληξαν στο συμπέρασμα ότι δεν ήταν κυβερνοεπίθεση. Βρήκαν όμως, πολλά τρωτά σημεία που θα μπορούσαν δυνητικά να εκμεταλλευτούν κάποιοι χάκερ για να προκαλέσουν κατάρρευση του δικτύου. Ενημέρωσαν πως θα λάβουν μέτρα προκειμένου να προλάβουν μια τέτοια εξέλιξη. Το ερώτημα ωστόσο είναι γιατί δεν τα είχαν λάβει ήδη».
Ν.Μ.: «Η κυβερνοασφάλεια έχει δύο όψεις. Η μία αφορά κράτη, οργανισμούς, εταιρείες. Η άλλη αφορά τον καθένα μας».
Ε.Π.: «Και εδώ, όπως και στο βιβλίο μου, θέλω να συνδέσω όσα είπα παραπάνω με το κομμάτι της δικής μας ατομικής κυβερνοασφάλειας. Για παράδειγμα, στην πανδημία οι φυσικές κλοπές περιορίστηκαν λόγω της καραντίνας, αυξήθηκαν όμως οι επιθέσεις στο Διαδίκτυο. Σήμερα στην Ισπανία, φαντάζομαι το ίδιο συμβαίνει και στην Ελλάδα, οι περισσότερες από τις μισές καταγγελίες για απάτες είναι ψηφιακές. Απάτες που αφορούν την υποκλοπή του ψηφιακού αποτυπώματος ή της ταυτότητας ανθρώπων, κλοπές ευαίσθητων φωτογραφιών και εκβιασμούς, πυραμιδικές απάτες, SMS για κάποιο δέμα που ήρθε, υποτίθεται, στο όνομά μας και πλήθος άλλα. Εχουν μπει, με άλλα λόγια, βαθιά μέσα στην καθημερινότητά μας».
«Δεν είναι τυχαίο, για παράδειγμα, ότι σε όλα τα μελλοντολογικά μυθιστορήματα επιστημονικής φαντασίας δεν υπάρχουν κυβερνήσεις, δεν υπάρχουν εκλεγμένα κοινοβούλια, δεν υπάρχουν πρωθυπουργοί, παρά μόνο νησίδες αυτοδιοικούμενες ή που λειτουργούν με τα εταιρικά καπιταλιστικά πρότυπα και των οποίων ηγούνται σαν νεοτεχνοφεουδάρχες κάποιοι ηγέτες της τεχνολογίας»
Νίκος Α. Μάντης
Ν.Μ.: «Είναι πολλά τα θέματα που αναδεικνύονται, μπορούμε να συζητούμε για μέρες, θα έλεγα ωστόσο ότι το βιβλίο είναι μια τεράστια προειδοποίηση και μια τεράστια κραυγή αγωνίας. Σήμερα, στον κόσμο που ζούμε, αυτές οι φωνές που εκφράζουν προειδοποιήσεις και αγωνία για τεχνολογικά ζητήματα, και για το Ιντερνετ, και για την τεχνητή νοημοσύνη, από πολλούς ενδιαφερόμενους παράγοντες έχουν την τάση να θεωρούνται πεσιμιστικές και τεχνοφοβικές.
Η ίδια η Ευρώπη θεωρεί ότι είναι ένας παράγοντας που έχει μείνει πίσω και εκφράζει το κόμπλεξ της, ενδεχομένως, γιατί η Αμερική και η Κίνα έχουν από 10 τεχνολογικούς κολοσσούς η καθεμία ενώ η Ευρώπη κανέναν. Την ίδια στιγμή πολλοί θέλουν να μας πείσουν ότι οποιαδήποτε προσπάθεια να φρενάρουμε ή, έστω, να αναστοχαστούμε αυτά τα θέματα είναι κάτι αντιπαραγωγικό και οπισθοδρομικό. Και η άποψη αυτή μπαίνει ίσως σε ένα γενικότερο κάδρο καπιταλιστικού πνεύματος. Είναι σίγουρα πολιτικοποιημένοι όλοι αυτοί οι άνθρωποι, σίγουρα έχουν μία πολιτική ατζέντα που θέλουν να μας επιβάλουν.
Δεν είναι τυχαίο, για παράδειγμα, ότι σε όλα τα μελλοντολογικά μυθιστορήματα επιστημονικής φαντασίας δεν υπάρχουν κυβερνήσεις, δεν υπάρχουν εκλεγμένα κοινοβούλια, δεν υπάρχουν πρωθυπουργοί, παρά μόνο νησίδες αυτοδιοικούμενες ή που λειτουργούν με τα εταιρικά καπιταλιστικά πρότυπα και των οποίων ηγούνται σαν νεοτεχνοφεουδάρχες κάποιοι ηγέτες της τεχνολογίας».
Ε.Π.: «Για πολλά από όσα συζητούμε θα χρειαστεί να προσφύγουμε και πάλι στην επιστημονική φαντασία».
Ν.Μ.: «Εβλεπα πριν από μερικές μέρες μία συνέντευξη του βρετανού ερευνητή της τεχνητής νοημοσύνης, νευροεπιστήμονα, νομπελίστα Χημείας και ιδρυτή της σημερινής Google DeepMind Ντέμη Χασάμπη, ο οποίος έλεγε ότι σε πέντε χρόνια η τεχνητή νοημοσύνη θα έχει φθάσει σε τέτοιο σημείο που θα μπορεί να λύνει σχεδόν όλα τα ανθρώπινα προβλήματα. Θα θεραπεύσει τον καρκίνο, θα βρει καινούργιες μορφές καύσιμης ύλης και τρόπους για να φθάσει κανείς στο Διάστημα. Θα κάνει, με λίγα λόγια, ό,τι δεν μπόρεσε να κάνει ο άνθρωπος μέσα στη βιομηχανική και την τεχνολογική επανάσταση των τελευταίων 200 ετών, και άρα, με έναν τρόπο, όσοι έχουν επιφυλάξεις για αυτή είναι σαν να μην θέλουν την πραγματική πρόοδο του ανθρώπινου γένους. Ολο αυτό πώς το σκέφτεσαι εσύ, είσαι αισιόδοξη ότι αυτό το κύμα θα μπορέσει να μπει σε κάποιου είδους κριτική, αναστοχασμό;».
Ε.Π.: «Είμαι σκεπτικίστρια και αισιόδοξη – αισιόδοξη σκεπτικίστρια. Τρέφω ελπίδες γιατί παρ’ όλα αυτά, και πάρα την αργή μας εξέλιξη, πιστεύω στους ανθρώπους. Σιγά-σιγά δημιουργούμε δικλίδες ασφαλείας, αποκτούμε μια συνειδητοποίηση, απαιτούμε αλλαγές και ως καταναλωτές αποφασίζουμε τι θέλουμε να καταναλώσουμε και τι όχι, ποιοι κάνουν σωστά τη δουλειά τους και ποιοι όχι. Ναι, αυτή τη στιγμή έχουμε πολλά προβλήματα. Κορυφαίο παράδειγμα αποτελεί η εξάρτηση από τις οθόνες. Αναφερόμαστε συνήθως στους ανηλίκους, αλλά και οι ενήλικοι είναι αντιμέτωποι με την εξάρτηση αυτή σε τεράστιο βαθμό.
Ωστόσο, η αισιοδοξία μου πηγάζει από το γεγονός ότι βρίσκουμε λύσεις σιγά-σιγά: πλατφόρμες που βοηθούν, ρυθμιστικά πλαίσια που θεμελιώνονται. Το ότι προχωράμε αργά όμως σημαίνει ότι κάποιοι άνθρωποι υποφέρουν και συνήθως αυτοί που υποφέρουν είναι πάντα οι ίδιοι. Αυτοί που βρίσκονται στα κατώτερα κοινωνικά στρώματα, στις παρυφές της κοινωνίας. Η ψηφιακή τεχνολογία και η τεχνητή νοημοσύνη δημιουργούν διακρίσεις – και αυτό είναι συστηματοποιημένο και ενσωματωμένο στο σύστημα.
Πολύ συχνά τα αυτοματοποιημένα συστήματα ενισχύουν διακρίσεις του παρελθόντος, όπως, π.χ. στην επιλογή της εργασίας. Πολλές θέσεις εργασίας δεν φθάνουν αλγοριθμικά στις οθόνες των γυναικών ή σε εκείνες ανθρώπων μεγαλύτερης ηλικίας. Γιατί; Γιατί αυτά τα συστήματα, με τον τρόπο που έχουν σχεδιαστεί, μαθαίνουν μέσα από τα δεδομένα με τα οποία έχουν τροφοδοτηθεί, και αν οι αλγόριθμοι κατανοούν ότι παλαιότερα αυτές τις δουλειές τις έκαναν άνδρες, απορρίπτουν όλους όσοι δεν είναι άνδρες – ή, αντίστοιχα, όλους όσοι δεν είναι λευκοί, όλους όσοι δεν είναι μιας συγκεκριμένης ηλικίας».
Ν.Μ.: «Αλλά παρ’ όλα αυτά είσαι αισιόδοξη».
Ε.Π.: «Είμαι αισιόδοξη γιατί από την άλλη πλευρά, πάλι, όλα αυτά που είπα τα αντιλαμβανόμαστε σήμερα λόγω της δουλειάς που κάνει η κοινωνία των πολιτών, οι δημοσιογράφοι, οι ερευνητές. Και υπάρχουν και επιστημονικές ή τεχνολογικές εξελίξεις που με κάνουν να τρέφω ελπίδες: η μεγάλη πρόοδος στη βιολογία που μπορεί να οδηγήσει σε εξατομικευμένα φάρμακα, η εξίσου μεγάλη πρόοδος στην ιατρική που θα μπορέσει να θεραπεύσει ασθένειες που ως τώρα δεν θεραπεύονται. Υπάρχουν λοιπόν και μεγάλες προοπτικές για να ανθήσουμε ως ανθρωπότητα, για να έχουμε ευημερία για όλους».
H κυρία Εστέρ Πανιάγουα είναι ισπανίδα δημοσιογράφος, συγγραφέας του βιβλίου «Error 404. Ετοιμοι για έναν κόσμο χωρίς Ιντερνετ;». Ο κ. Νίκος Α. Μάντης είναι συγγραφέας.
→ Τη συζήτηση επιμελήθηκε η Μιχαέλα Μαρία Δεριζιώτη.
