Το πρώτο φως του ήλιου βρίσκει έναν άνθρωπο με κόκκινα, ερεθισμένα βλέφαρα και ελαφρύ κνησμό. Τι φταίει; Πιθανότατα οι ατέλειωτες ώρες μπροστά από οθόνες και η έκθεση στο μπλε φως. Πληκτρολογώντας τα συμπτώματα σε ένα δημοφιλές chatbot αυτό κάνει την διάγνωση ότι το συγκεκριμένο άτομο πάσχει από bixonimania.

Το πρόβλημα;

Η bixonimania δεν υπάρχει στην πραγματικότητα. Είναι μια τελείως φανταστική ασθένεια που επινόησε μια ερευνήτρια για να δει αν τα μεγάλα γλωσσικά μοντέλα θα την πίστευαν και θα την αναπαρήγαγαν σαν αληθινή. Το αποτέλεσμα; Μέσα σε λίγες εβδομάδες, συστήματα Τεχνητής Νοημοσύνης, chatbots και ακόμα και επίσημες επιστημονικές δημοσιεύσεις άρχισαν να την παρουσιάζουν σαν πραγματική, ανοίγοντας έναν συναρπαστικό αλλά και ανησυχητικό διάλογο για την αξιοπιστία της πληροφορίας στην εποχή της τεχνητής νοημοσύνης.

Όλα ξεκίνησαν τον Μάρτιο του 2024, όταν η ερευνήτρια Almira Osmanovic Thunström από το Πανεπιστήμιο του Γκέτεμποργκ στη Σουηδία αποφάσισε να δημιουργήσει τη φανταστική αυτή ασθένεια για να δοκιμάσει τα μεγάλα γλωσσικά μοντέλα (LLMs). Η ασθένεια, που ονόμασε bixonimania, περιγράφηκε ως κατάσταση που προκαλεί ερεθισμένα και κόκκινα βλέφαρα από υπερβολική έκθεση στο μπλε φως των οθονών.

Δύο προεκτυπώσεις δημοσιεύθηκαν τον Απρίλιο και τον Μάιο του 2024 σε ένα φανταστικό ακαδημαϊκό δίκτυο, με κύριο συγγραφέα έναν κατασκευασμένο επιστήμονα, τον Lazljiv Izgubljenovic, ο οποίος εμφανιζόταν με φωτογραφία δημιουργημένη από AI. Το περιεχόμενο περιείχε δεκάδες ενδείξεις ότι ήταν ψεύτικο, όπως αναφορές σε ανύπαρκτα πανεπιστήμια και χρηματοδοτήσεις από «USS Enterprise» και φανταστικά ιδρύματα.

Η διάδοση του ψεύτικου περιεχομένου στα chatbots

Μέσα σε λίγες εβδομάδες, τα πιο δημοφιλή LLMs άρχισαν να αναπαράγουν την bixonimania σαν να ήταν πραγματική ιατρική κατάσταση.

  • Στις 13 Απριλίου 2024, το Microsoft Bing Copilot δήλωνε ότι «η Bixonimania είναι μια ενδιαφέρουσα και σχετικά σπάνια πάθηση».
  • Το Google Gemini την παρουσίαζε ως αποτέλεσμα έκθεσης σε μπλε φως και συνέστηνε επίσκεψη σε οφθαλμίατρο.
  • Το OpenAI ChatGPT, στο ίδιο διάστημα, έδινε απαντήσεις αν οι χρήστες είχαν συμπτώματα όπως ερεθισμένα βλέφαρα, λέγοντας ότι μπορεί να υποφέρουν από bixonimania.

Οι ειδικοί ανησύχησαν αμέσως. Ο Alex Ruani από το University College London τόνισε ότι η κατάσταση έδειχνε πώς η παραπληροφόρηση μπορεί να εισέλθει στη διαδικασία παραγωγής γνώσης από τα LLMs, επηρεάζοντας ακόμα και την ακαδημαϊκή βιβλιογραφία.

Η «πονηρή» επιστημονική εμφάνιση

Η ερευνήτρια επέλεξε σκόπιμα έναν ιατρικό όρο που δεν υπήρχε στην πραγματικότητα. «Ήθελα να είναι σαφές σε οποιονδήποτε ιατρό ότι πρόκειται για ψεύτικη κατάσταση, γιατί κανένα μάτι δεν θα ονομάζαμε “μανία”», εξηγεί.

Παρά τα προφανή στοιχεία, όπως οι φανταστικές ηλικίες συμμετεχόντων και τα ανύπαρκτα ιδρύματα, κάποιοι ερευνητές ανέφεραν τις προεκτυπώσεις σε επιστημονικά άρθρα, με αποτέλεσμα η ψεύτικη ασθένεια να εισχωρήσει σε δημοσιευμένη βιβλιογραφία.

Μάλιστα, μια μελέτη στην Cureus δημοσιεύθηκε επικαλούμενη τη bixonimania, πριν τελικά ανακληθεί.

Τα μαθήματα από την “Bixonimania”

Η Osmanovic Thunström δημιούργησε τη δοκιμή για να δείξει την ευαλωτότητα των εν λόγω συστημάτων στην παραπληροφόρηση, ειδικά όταν αυτή παρουσιάζεται με επαγγελματικό ύφος. Όπως αναφέρει ο Mahmud Omar από την Harvard Medical School, τα LLMs είναι πιο πιθανό να «φαντασιωθούν» ψευδείς πληροφορίες όταν αυτές μοιάζουν με ιατρική μελέτη παρά με ανάρτηση σε κοινωνικά δίκτυα.

Η υπόθεση αναδεικνύει και την ευρύτερη απειλή: η ικανότητα των AI συστημάτων να αναπαράγουν ψεύτικες πληροφορίες μπορεί να εξαπατήσει όχι μόνο απλούς χρήστες, αλλά και επαγγελματίες υγείας.

Προς το μέλλον: Τι χρειάζεται να γίνει

Οι ειδικοί υπογραμμίζουν ότι απαιτείται ένα ανοικτό, τυποποιημένο σύστημα αξιολόγησης για όλα τα AI μοντέλα υγείας, που να ελέγχει όχι μόνο τα λάθη αλλά και την ευπάθεια σε ψευδείς πληροφορίες. Η Osmanovic Thunström προσθέτει ότι η μελέτη δείχνει πώς η παραπληροφόρηση μπορεί να αξιοποιηθεί και για εμπορικούς σκοπούς, π.χ. για την προώθηση ακριβών προϊόντων υγείας.

Καθώς τα AI γίνονται όλο και πιο άρρηκτα συνδεδεμένα με τη ζωή μας, η υπόθεση της bixonimania αποτελεί καμπανάκι: δεν μπορούμε να αφήσουμε τις μηχανές να γίνονται οι αδιάκριτοι «κριτές» της γνώσης μας, ούτε η κοινωνία να γίνεται το πειραματόζωο για κάθε νέο μοντέλο.