Από την εκπαίδευση και την υγεία έως την εργασία, η τεχνητή νοημοσύνη (ΤΝ) έχει πλέον εισχωρήσει σε κάθε πτυχή της καθημερινότητάς μας. Η ταχύτατη εξέλιξη των συστημάτων ΤΝ, και ειδικά η εμφάνιση μεγάλων γλωσσικών μοντέλων όπως το ChatGPT, αλλάζει ριζικά την αλληλεπίδρασή μας με την τεχνολογία.
Πλέον, τα εργαλεία ΤΝ απευθύνονται σε κάθε πολίτη, ανεξάρτητα από το τεχνολογικό του υπόβαθρο. Μπορούν δηλαδή να χρησιμοποιηθούν από άτομα που δεν γνωρίζουν πώς λειτουργούν ή πώς εκπαιδεύονται. Ως συνέπεια, οι κοινωνικές επιπτώσεις τους συχνά παραμένουν αόρατες, με τους χρήστες σε πολλές περιπτώσεις να υιοθετούν άκριτα τις απαντήσεις που λαμβάνουν. Τα μοντέλα ΤΝ εκπαιδεύονται σε δεδομένα που παράγονται από ανθρώπους.
Συνεπώς, φέρουν μαζί τους προκαταλήψεις και στερεότυπα που ήδη υπάρχουν στην κοινωνία. Η χρήση πραγματικά αντιπροσωπευτικών δεδομένων είναι επιθυμητή αλλά σχεδόν ποτέ εφικτή, ειδικά όταν προσμετρώνται πολλαπλές παράμετροι όπως το φύλο, η ηλικία ή/και η φυλή. Μία από τις σημαντικές κοινωνικές επιπτώσεις της ΤΝ είναι η αναπαραγωγή και μεγέθυνση της έμφυλης μεροληψίας. Τα έμφυλα στερεότυπα είναι βαθιά ριζωμένα στις υφιστάμενες πατριαρχικές κοινωνίες και άρα υπεισέρχονται στην εκπαίδευση των εργαλείων ΤΝ.
Ως αποτέλεσμα, η ΤΝ δεν είναι ουδέτερη ως προς το φύλο, όπως έχει ήδη επιβεβαιωθεί. Το 2015, η Amazon διαπίστωσε ότι το σύστημα ΤΝ που χρησιμοποιούσε για την αξιολόγηση υποψηφίων ευνοούσε συστηματικά άνδρες, έχοντας εκπαιδευτεί κυρίως σε βιογραφικά ανδρών, που υπερτερούν στον χώρο της τεχνολογίας. Δέκα χρόνια αργότερα, η μεροληψία αυτή δεν έχει εξαλειφθεί.
Πρόσφατη έρευνα (2024) διαπίστωσε ότι Μεγάλα Γλωσσικά Μοντέλα αξιολογούν ευνοϊκότερα ένα βιογραφικό όταν φέρει ανδρικό όνομα. Παρόμοιο πρόβλημα μεροληψίας είχε εντοπιστεί και το 2019, όταν ο αλγόριθμός της Apple Card έδινε υψηλότερα πιστωτικά όρια σε άνδρες συγκριτικά με γυναίκες που είχαν ίδια ή καλύτερη πιστοληπτική αξιολόγηση. Η μεροληψία της ΤΝ γίνεται ακόμα πιο εμφανής όταν το φύλο συνδυάζεται με άλλες παραμέτρους, όπως η φυλή, επιβεβαιώνοντας την αρχή της διαθεματικότητας. Μελέτη του MIT και του Stanford (2018) έδειξε ότι τα υψηλότερα ποσοστά σφάλματος σε αλγορίθμους αναγνώρισης προσώπου εμφανίζονται στις έγχρωμες γυναίκες, ενώ τα καλύτερα αποτελέσματα παρατηρούνται σε λευκούς άνδρες. Αυτά τα ευρήματα αποκαλύπτουν ότι η μεροληψία δεν είναι μονοδιάστατη· οι διακρίσεις εντείνονται όταν συνδυάζονται πολλαπλές ταυτότητες, με αποτέλεσμα ομάδες που ήδη βρίσκονται σε μειονεκτική θέση να υφίστανται ακόμη μεγαλύτερη μεροληψία. Παρά την ανάδειξη του προβλήματος, η έμφυλη μεροληψία στην ΤΝ παραμένει εμφανής, οξύνοντας κοινωνικές ανισότητες μέχρι και σήμερα. Σε έρευνα της UNESCO (2024) αναλύθηκαν 133 συστήματα ΤΝ και βρέθηκε πως το 44% αυτών παρουσιάζει έμφυλη μεροληψία, με τις γυναίκες να περιγράφονται τέσσερις φορές συχνότερα σε οικιακούς ρόλους. Τα συστήματα ΤΝ συνέδεαν τα γυναικεία ονόματα συχνότερα με λέξεις όπως «οικογένεια», «παιδιά», ενώ τα ανδρικά με λέξεις όπως «καριέρα» και «μισθός». Σε έρευνα του LSE (2025) προέκυψε ότι εργαλεία ΤΝ που χρησιμοποιούνται από περισσότερους από τους μισούς δήμους της Αγγλίας υποτιμούν συστηματικά τα σωματικά και ψυχικά προβλήματα υγείας των γυναικών σε σύγκριση με εκείνα των ανδρών.
Αντίστοιχο πρόβλημα παρατηρείται και σε δημοφιλή εργαλεία ΤΝ όταν τους ζητηθεί να σχεδιάσουν πολιτικές, καθώς οι απαντήσεις τους λαμβάνουν υπόψη κατά κανόνα μόνο τις ανάγκες ενός μέσου άνδρα, εκτός αν τους ζητηθεί ρητά να προτείνουν πολιτικές που θα απευθύνονται σε άλλο φύλο. Ακόμα και τότε, οι απαντήσεις των εργαλείων ΤΝ βασίζονται σχεδόν αποκλειστικά στο δίπολο αρσενικό-θηλυκό, αποκλείοντας άλλες ταυτότητες φύλου.
Ακόμα και η γλώσσα μέσω της οποίας δίνουμε εντολές στα εργαλεία ΤΝ επηρεάζει τις απαντήσεις, καθώς αντικατοπτρίζει την κουλτούρα και τη θέση των φύλων στην εκάστοτε κοινωνία. Εντολές σε ευρωπαϊκές γλώσσες τείνουν να οδηγούν σε περιγραφές γυναικών σε διάφορους επαγγελματικούς ρόλους, σύμφωνα με την ευρωκεντρική αντίληψη γύρω από τα φύλα, ενώ εντολές σε γλώσσα όπως η Ούρντου καταλήγουν σε απαντήσεις που παρουσιάζουν τις γυναίκες συχνότερα σε ρόλους συνδεδεμένους με την οικογένεια και την ανατροφή παιδιών. Η αντιμετώπιση, λοιπόν, της έμφυλης μεροληψίας στην ΤΝ δεν είναι απλώς τεχνικό ζήτημα, αλλά και βαθιά κοινωνικοπολιτικό. Όσο η ΤΝ ενσωματώνεται στη ζωή μας και στη λήψη αποφάσεων, αυξάνεται ο κίνδυνος ενίσχυσης κοινωνικών αποκλεισμών.
Για αυτό τον λόγο, η βελτίωση της διαφάνειας και επεξηγησιμότητας των συστημάτων ΤΝ είναι ένα αναγκαίο τεχνικό βήμα. Ταυτόχρονα όμως, απαιτείται η καλλιέργεια πληροφοριακού γραμματισμού ως αναγκαία δεξιότητα και εργαλείο συμπερίληψης και κοινωνικής δικαιοσύνης, ώστε οι πολίτες να χρησιμοποιούν την ΤΝ με κριτική ικανότητα, αξιολογώντας τις απαντήσεις που λαμβάνουν για την ορθότητα και την πληρότητά τους.
*Η Διάνα Βουτυράκου είναι δρ Ηθικής στην Τεχνητή Νοημοσύνη
