Η ύπαρξη συστημάτων και εφαρμογών της «Μηχανής» με τη φιλοδοξία «να σκέπτεται με τρόπο που να μην ξεχωρίζει από άνθρωπο» ανατρέχει στη δεκαετία του ’50. Η εκρηκτική ανάπτυξή της τα τελευταία χρόνια οφείλεται καταρχάς στη διαθεσιμότητα δεδομένων μεγάλης κλίμακας και στην ικανότητα ανάλυσής του και στη συνέχεια στην –πρόσφατη– διάδοση της παραγωγικής ΤΝ, των μεγάλων γλωσσικών μοντέλων, όπως το ChatGPT. Η ειδοποιός διαφορά της αλγοριθμικής επικοινωνίας και επεξεργασίας εντοπίζεται ακριβώς στην τεράστια (ή και ασύλληπτη!) ποσότητα δεδομένων που μπορεί να επεξεργαστεί ένας αλγόριθμος σε συνδυασμό με την ακρίβεια αλλά και την ταχύτητα παραγωγής και επικαιροποίησης αποτελεσμάτων. Από ακατέργαστα, συχνά ασύνδετα μεταξύ τους, δεδομένα τα συστήματα ΤΝ επιτρέπουν να αναδειχθούν πληροφορίες ή να παραχθούν νέες, να αναλυθούν μοτίβα, να εντοπιστούν συσχετίσεις και μοντέλα ή να συναχθούν συμπεράσματα και προγνώσεις. Στα στοιχεία που υπόκεινται σε επεξεργασία συμπεριλαμβάνονται τα προσωπικά δεδομένα. Μια –έντονη– σχέση διπλής κατεύθυνσης: τα προσωπικά δεδομένα τροφοδοτούν την ΤΝ και αυτή παράγει ακόμη περισσότερα δεδομένα.
Οι μοναδικές ιδιότητες της ΤΝ μπορούν να οδηγήσουν σε νέες μορφές επέμβασης στην πληροφοριακή ιδιωτικότητα, ενώ η απαίτηση για μαζικά δεδομένα μπορεί να καταστήσει οξύτερη τη διείσδυση στην ιδιωτική ζωή. Αρκεί να σκεφτούμε τις επιπτώσεις του profiling που καθίσταται πιο εκλεπτυσμένο και αποτελεσματικό μέσω της χρήσης ΤΝ, καθώς συνδέεται με προγνωστικές αναλύσεις των συμπεριφορών, των προτιμήσεων και των επιλογών ατόμων ή και ομάδων. Από δεδομένα καθημερινά ή «αβλαβή» μπορούν να συναχθούν ή να παραχθούν ευαίσθητες πληροφορίες που μπορεί να αφορούν άγνωστα σε τρίτους (ή ακόμη και στο ίδιο το άτομο) προσωπικά χαρακτηριστικά ή καταστάσεις (σεξουαλικός προσανατολισμός, κατάσταση υγείας ή η προδιάθεση ασθένειας, οικονομικές δυσχέρειες κ.ά.). Τα «δεδομένα εξόδου», τα συμπερασματικά συναγόμενα στοιχεία (inferences) μπορεί να χρησιμοποιηθούν για τη λήψη αποφάσεων, συχνά κρίσιμων για τη ζωή ενός προσώπου (όπως η απόλυσή του, η άρνηση ενός δανείου, η αντιμετώπισή του από διωκτικές αρχές) ή για τη στοχευμένη πληροφόρηση ή/και διαφήμιση. Οι σοβαρότεροι κίνδυνοι του αλγοριθμικού profiling εντοπίζονται ακριβώς στη δυνατότητα χρήσης του ως προβλεπτικού και προληπτικού εργαλείου.
H κατηγοριοποίηση, η ένταξη των προσώπων σε ομάδες με προ-προσδιορισμένα χαρακτηριστικά ή σε μορφότυπους συμπεριφοράς θέτουν ζητήματα ως προς τον –επιβαλλόμενο από το Σύνταγμα– σεβασμό της «αξίας του ανθρώπου», καθώς ένα πρόσωπο κινδυνεύει να αντιμετωπίζεται, στις διάφορες εκφάνσεις της ζωής του, όχι ως αυτόνομη οντότητα αλλά ως φορέας ενός «μορφότυπου». Έχοντας απολέσει τον έλεγχο επί των ιδίων πληροφοριών, τα πρόσωπα καθίστανται ευρέως και ευχερώς ιχνηλάσιμα, ελέγξιμα και χειραγωγήσιμα με επιπτώσεις στη συμπεριφορά, στις επιλογές τους και στα δικαιώματά τους, όπως η ανάπτυξη της προσωπικότητας ή η ελευθερία της έκφρασης. Η παραγωγική ΤΝ διέγειρε ακόμη περισσότερο τη «βουλιμία» για προσωπικά δεδομένα. Η χρήση τους καθίσταται ακόμη πιο προβληματική, καθώς συνήθως οι χρήστες αγνοούν τις δυνατότητες των συστημάτων και της πραγματικότητας ως προς τη συλλογή δεδομένων.
Τα παραγωγικά μοντέλα εκπαιδεύονται σε δισεκατομμύρια, αν όχι εκατοντάδες δισεκατομμύρια παραμέτρους και απαιτούν τεράστιες ποσότητες δεδομένων εκπαίδευσης και υπολογιστικής ισχύος. Χαρακτηριστικό παράδειγμα η αξιοποίηση των λεγόμενων «prompts», δηλαδή των στοιχείων που εισφέρουν τα πρόσωπα, όταν αλληλεπιδρούν με συστήματα ΤΝ, καθώς και των αναρτήσεων αρχείων, για την εκπαίδευση και εξέλιξη του μοντέλου. H τροφοδότηση του συστήματος με συνεχή πληροφορία και η αλληλεπίδραση με βάσεις μεγάλων δεδομένων διευρύνει αναμφίβολα τις δυνατότητες του συστήματος και τα οφέλη από τη χρήση του. Ωστόσο, αν οι δυνατότητες της ΤΝ είναι ευθέως ανάλογες του όγκου των υπό επεξεργασία δεδομένων, η χρήση της εν γένει δοκιμάζει την τήρηση των βασικών αρχών της προστασίας δεδομένων: του σκοπού, της ελαχιστοποίησης, της διαφάνειας.
Καταρχάς η διεύρυνση και η μη προδιαγνωσιμότητα των (δυνατοτήτων και) σκοπών επεξεργασίας αποτελεί εγγενές χαρακτηριστικό της ανάλυσης μέσω ΤΝ. Δεν είναι εφικτή η πρόβλεψη τι θα «μάθει» ο αλγόριθμος και, κυρίως, αδιαφανείς οι διεργασίες. Ο σκοπός μπορεί να αλλάξει στην πορεία, καθώς η μηχανή μαθαίνει και αναπτύσσεται, θέτοντας σοβαρά ζητήματα ως προς την παραβίαση της αρχής της απαγόρευσης της δευτερεύουσας χρήσης προσωπικών δεδομένων. Είναι αποδεκτή η χρήση προσωπικών δεδομένων για την εκπαίδευση των συστημάτων, όταν δεν υπάρχει η συγκατάθεση του χρήστη και άρα ο έλεγχος επί των δεδομένων του; Δεν υφίσταται προσβολή των δικαιωμάτων, όταν τα δεδομένα συλλέγονται από δημόσια προσιτές πηγές με χρήση μεθόδων, όπως η λεγόμενη «απόξεση του δικτύου» (web scraping); Ή όταν με τη χρήση τέτοιων δεδομένων αυξάνεται ραγδαία η δημιουργία deepfakes που προσβάλλουν την εικόνα, την προσωπικότητα, τα δικαιώματα των προσώπων;
Η πίεση και η προσδοκία να εξάγονται όσο το δυνατόν περισσότερα δεδομένα για να αξιοποιηθούν εντείνονται, όσο μάλιστα τέτοια συστήματα διαδίδονται και γίνονται φθηνότερα και κατ’ αποτέλεσμα πιο προσιτά. Η φιλοδοξία της μετεξέλιξης από μία «κοινωνία της διακινδύνευσης» (risk society) σε μία «κοινωνία της πρόγνωσης» (prediction society) τροφοδοτεί μεν περαιτέρω την ανάπτυξη τέτοιων συστημάτων αλλά και εγείρει σοβαρές ανησυχίες: η συσσώρευση προγνωστικής ισχύος συνιστά μια νέα εκδήλωση της πληροφοριακής ασυμμετρίας μεταξύ –ήδη ισχυρών– τεχνολογικών και οικονομικών παραγόντων, των προσώπων και της κοινωνίας εν γένει. Με μια (μη ρυθμισμένη) προγνωστική ισχύ και με τη χρήση της ως εργαλείου λήψης αποφάσεων, η ΤΝ ενέχει το δυναμικό και τον κίνδυνο να εντείνει, να εμπεδώνει και εν τέλει να διαιωνίζει μοτίβα και μορφότυπους δυσμενών διακρίσεων, να διευρύνει κοινωνικές και οικονομικές διαφορές και ανισότητες.
Η αντιμετώπιση αυτών των κινδύνων δεν μπορεί να δοθεί με αφηρημένες, μανιχαϊστικές προσεγγίσεις ή τον εγκλωβισμό στο (ψευτο)δίλημμα: (προστατευτική) ρύθμιση ή καινοτομία; Αλλά με συζήτηση, περίσκεψη και επίγνωση των δομικών αλλαγών που η ΤΝ συνεπιφέρει σε κάθε σχέση και πλαίσιο. Και της κατανομής του οφέλους της.
*Η Λίλιαν Μήτρου είναι καθηγήτρια στο Πανεπιστήμιο Αιγαίου και δικηγόρος
