«Δείξε μου τον αλγόριθμό σου να σου πω ποιος είσαι» παραφράζει τη γνωστή φράση ο Βαλέριο ντι Στεφάνο στο ξεκίνημα της συνέντευξης στο «Β». Ο διακεκριμένος ιταλός νομικός και ερευνητής στη Νομική Σχολή του Πανεπιστημίου Γιορκ στο Τορόντο, με εξειδίκευση στον τρόπο που οι αλγόριθμοι αναδιατάσσουν τις εργασιακές σχέσεις, μας ξεναγεί πίσω από τη βιτρίνα της τεχνολογικής αμεροληψίας. Εκεί, οι μηχανές λειτουργούν ως ένας «ψηφιακός καθρέφτης που ανακυκλώνει τις κοινωνικές αδικίες», εξηγεί, αφού τα δεδομένα κουβαλούν τις προκαταλήψεις και τις ανισότητες του κόσμου μας.
Η τεχνητή νοημοσύνη εξελίσσεται στην «ισχυρότερη προέκταση της εργοδοτικής εξουσίας που έχει υπάρξει μέχρι σήμερα» τονίζει. Στους χώρους εργασίας εγκαθίσταται ένας αθέατος μηχανισμός πειθαρχίας, όπου κάθε κλικ, κάθε παύση και κάθε μήνυμα καταγράφεται και αξιολογείται συστηματικά. Αυτή η διαρκής επιτήρηση αναδιαμορφώνει ριζικά το εργασιακό περιβάλλον και «αλλάζει τον τρόπο με τον οποίο συνηθίζουμε να υπακούμε», τονίζει, σημειώνοντας ότι η νέα αυτή κανονικότητα επηρεάζει πλέον «την ίδια την ιδιότητα του πολίτη σε μια φιλελεύθερη δημοκρατική κοινωνία».
Η συζήτηση για την τεχνητή νοημοσύνη εστιάζει συνήθως στις απώλειες θέσεων εργασίας. Ποια είναι όμως, κατά τη γνώμη σας, η πιο σημαντική αλλαγή που φέρνει στις εργασιακές σχέσεις;
«Σαφώς η απώλεια θέσεων εργασίας έχει σημασία, όμως σε πολλούς χώρους εργασίας η πρώτη επίδραση της τεχνητής νοημοσύνης δεν είναι η αντικατάσταση του ανθρώπινου παράγοντα, αλλά η αναδιοργάνωση και η εντατικοποίηση της διευθυντικής εξουσίας. Τα αλγοριθμικά συστήματα χρησιμοποιούνται πλέον συστηματικά για τα πάντα – από τις προσλήψεις, τις βάρδιες και τον καθορισμό των αμοιβών, μέχρι την ψηφιακή επιτήρηση μέσω GPS ή καταγραφής πλήκτρων, την αξιολόγηση και τις απολύσεις. Υπό αυτή την έννοια, η πιο ουσιαστική αλλαγή που φέρνει η τεχνητή νοημοσύνη δεν είναι ότι αντικαθιστά τη διοίκηση, αλλά ότι γίνεται η ισχυρότερη προέκταση της εργοδοτικής εξουσίας που έχει υπάρξει μέχρι σήμερα».
Ποιος έχει πραγματικά τον έλεγχο όταν η εργασία οργανώνεται, αξιολογείται και αμείβεται μέσα από αλγοριθμικά συστήματα;
«Τυπικά, ο εργοδότης παραμένει ο κυρίαρχος του παιχνιδιού, αφού οι τελικές αποφάσεις λαμβάνονται εντός της δικής του σφαίρας ευθύνης. Είναι λάθος, επομένως, να αντιμετωπίζουμε την αλγοριθμική διαχείριση σαν μια αυτόνομη τεχνολογία που ενεργεί ερήμην της ανθρώπινης βούλησης. Στην πράξη, ωστόσο, αυτή η διευθυντική εξουσία φιλτράρεται πλέον μέσα από αυτοματοποιημένα συστήματα: από το ποιος κάνει τι και πότε μέχρι την αξιολόγηση της απόδοσης, τον καθορισμό των αμοιβών και την ενεργοποίηση πειθαρχικών διαδικασιών. Ο εργοδότης είναι πάντα εκεί, απλώς πλέον ασκεί τον έλεγχο πίσω από το προπέτασμα της τεχνολογίας, ακόμη και όταν η ανθρώπινη παρέμβαση παραμένει αόρατη.
Υπάρχει, όμως, και μια ακόμη διάσταση που συχνά υποτιμάται. Σε αρκετές περιπτώσεις, οι ίδιοι οι εργοδότες χάνουν το πραγματικό τιμόνι της επιχείρησής τους, το οποίο μεταβιβάζεται αθόρυβα στους εξωτερικούς παρόχους της τεχνολογίας. Αυτό συμβαίνει όταν στερούνται την τεχνογνωσία να αποκωδικοποιήσουν τη λειτουργία των συστημάτων που αγοράζουν, πόσω μάλλον να τα αμφισβητήσουν. Το αποτέλεσμα είναι μια ακόμα πιο αδιαφανής δομή εξουσίας στους χώρους εργασίας. Αυτό, βέβαια, δεν απαλλάσσει τον εργοδότη: όποιος επιλέγει να διοικεί ανθρώπους μέσω εργαλείων που δεν κατανοεί, οφείλει να παραμένει νομικά υπόλογος στο ακέραιο για τις συνέπειές τους».
Ποιος κίνδυνος ελλοχεύει πίσω από τη συλλογή δεδομένων στην εργασία;
«Η συνεχής συλλογή δεδομένων μπορεί να μετατραπεί σε έναν εξαιρετικά αποτελεσματικό και συχνά αθέατο μηχανισμό πειθαρχίας. Από τη στιγμή που οι εργαζόμενοι αντιλαμβάνονται ότι κάθε κλικ, κάθε παύση, κάθε κίνηση, μήνυμα ή επαφή με συναδέλφους και πελάτες μπορεί να καταγράφεται και να αξιολογείται, η συμπεριφορά τους αλλάζει αναπόφευκτα. Η επιτήρηση δεν χρειάζεται να καταλήγει σε κυρώσεις για να επιβάλει την τάξη. Αρκεί και μόνο η γνώση ότι κάποιος σε παρακολουθεί διαρκώς».
Υπάρχει μια «κόκκινη γραμμή» που δεν πρέπει να υπερβεί η τεχνολογία;
«Το όριο ξεπερνιέται όταν η τεχνολογία παύει να υπηρετεί έναν συγκεκριμένο και αναλογικό σκοπό και μετατρέπεται σε μηχανισμό γενικευμένης επιτήρησης, προληπτικού ελέγχου και σταδιακής αποδυνάμωσης της αυτονομίας των εργαζομένων. Ξεπερνιέται, ιδίως, όταν η καθημερινή εργασία τους μετατρέπεται αθόρυβα σε υλικό εκπαίδευσης για συστήματα που, αργότερα, μπορεί να χρησιμοποιηθούν για να εντείνουν τον έλεγχο πάνω τους, να υποβαθμίσουν τις δεξιότητές τους ή ακόμη και να συμβάλουν στην αυτοματοποίηση και την αντικατάστασή τους. Σε εκείνο το σημείο, η συλλογή δεδομένων δεν καταγράφει απλώς την εργασία, αλλά μετατρέπει την ίδια την εργασιακή εμπειρία σε νέα πηγή αξίας για την επιχείρηση».
Τείνουμε να αντιμετωπίζουμε τα δεδομένα και την τεχνητή νοημοσύνη ως «ουδέτερα» εργαλεία. Πόσο όμως ισχύει αυτό για τους αλγορίθμους στις εργασιακές σχέσεις;
«Πολύ λιγότερο απ’ όσο νομίζουμε. Τα δεδομένα δεν γεννιούνται σε κοινωνικό κενό, αφού κουβαλούν τις προκαταλήψεις και τις ανισότητες του κόσμου μας. Αν οι παλαιότερες αποφάσεις για προσλήψεις, προαγωγές ή αμοιβές επηρεάστηκαν από συνειδητές ή ασύνειδες προκαταλήψεις, οι αλγόριθμοι που εκπαιδεύονται σε αυτά δεν τις εξαλείφουν, αλλά τις αναπαράγουν και τις παγιώνουν με μεγαλύτερη κλίμακα, ταχύτητα και αδιαφάνεια, ακόμη και μέσα από φαινομενικά ουδέτερες μεταβλητές.
Το πρόβλημα εντείνεται επειδή τα συστήματα αυτά σχεδιάζονται για την κερδοφορία και όχι για την ισότητα, την ώρα που εμείς τείνουμε να τα εμπιστευόμαστε τυφλά ως αντικειμενικά επειδή είναι μηχανές. Στην πραγματικότητα, όμως, οι αλγόριθμοι ενσωματώνουν καθαρά ανθρώπινες επιλογές για το τι μετράει και τι παραλείπεται, λειτουργώντας τελικά ως ένας ψηφιακός καθρέφτης που ανακυκλώνει τις κοινωνικές αδικίες πίσω από ένα προπέτασμα τεχνολογικής ουδετερότητας».
Στο έργο σας συνδέετε την αλγοριθμική διαχείριση με ζητήματα δημοκρατίας. Πώς επιδρά στον εργαζόμενο η καθημερινή εμπειρία της συνεχούς επιτήρησης;
«Οι χώροι εργασίας είναι από τα πρώτα πεδία όπου ο άνθρωπος συναντά καθημερινά την εξουσία, στους κανόνες, στους ρυθμούς, στην αξιολόγηση, στην ίδια την οργάνωση της ημέρας του. Η τεχνολογία μπορεί να κάνει αυτή την εξουσία πιο αθόρυβη, πιο συνεχή και πολύ πιο δύσκολα αμφισβητήσιμη. Η διαρκής παρακολούθηση, τα αδιαφανή συστήματα, οι αυτοματοποιημένες αξιολογήσεις και η αποδυνάμωση της συλλογικής έκφρασης δεν αλλάζουν μόνο τον τρόπο με τον οποίο δουλεύουμε, αλλά και τον τρόπο με τον οποίο συνηθίζουμε να υπακούμε.
Ετσι, βαθιές ανισορροπίες εξουσίας αρχίζουν να εμφανίζονται ως κανονικότητα. Γι’ αυτό, η αλγοριθμική διαχείριση αγγίζει κάτι πολύ βαθύτερο από τις εργασιακές σχέσεις. Επηρεάζει τον τρόπο με τον οποίο αντιλαμβανόμαστε την εξουσία, τη συμμετοχή και, τελικά, την ίδια την ιδιότητα του πολίτη σε μια φιλελεύθερη δημοκρατική κοινωνία».
