Οι διαδικτυακοί εγκληματίες ισχυρίζονται ότι έχουν χρησιμοποιήσει το εργαλείο τεχνητής νοημοσύνης Grok του Έλον Μασκ για να δημιουργήσουν σεξουαλικές εικόνες παιδιών, ενώ ένας οργανισμός παρακολούθησης της ασφάλειας των παιδιών προειδοποίησε ότι η τεχνολογία αυτή ενέχει τον κίνδυνο να καταστήσει τέτοιο υλικό ευρέως διαδεδομένο.

Ο βρετανικός οργανισμός Internet Watch Foundation (IWF) ανέφερε ότι χρήστες ενός φόρουμ στο dark web καυχήθηκαν ότι χρησιμοποίησαν το Grok Imagine για να δημιουργήσουν σεξουαλικές εικόνες και εικόνες με γυμνό στήθος κοριτσιών ηλικίας μεταξύ 11 και 13 ετών.

Οι αναλυτές της IWF δήλωσαν ότι οι εικόνες θα θεωρούνταν υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) σύμφωνα με τη βρετανική νομοθεσία.

Το X του Έλον Μασκ, έχει κατακλυστεί από εικόνες γυμνών γυναικών και παιδιών μέσω Grok

«Μπορούμε να επιβεβαιώσουμε ότι οι αναλυτές μας έχουν ανακαλύψει εγκληματικές εικόνες παιδιών ηλικίας μεταξύ 11 και 13 ετών, οι οποίες φαίνεται να έχουν δημιουργηθεί με τη χρήση του εργαλείου», δήλωσε η Ngaire Alexander, επικεφαλής της γραμμής επικοινωνίας του IWF, η οποία διερευνά αναφορές CSAM από μέλη του κοινού.

Το X, η πλατφόρμα κοινωνικών μέσων του Έλον Μασκ, έχει κατακλυστεί από εικόνες γυναικών και παιδιών των οποίων τα ρούχα έχουν αφαιρεθεί ψηφιακά από το εργαλείο Grok, προκαλώντας δημόσια κατακραυγή και καταδίκη από πολιτικούς.

Η επιτροπή γυναικών και ισότητας της Βουλής των Κοινοτήτων δήλωσε ότι δεν θα χρησιμοποιεί πλέον το X για τις επικοινωνίες της, λέγοντας ότι δεν είναι πλέον σκόπιμο να το κάνει, δεδομένου ότι η πρόληψη της βίας κατά των γυναικών και των κοριτσιών είναι ένας από τους βασικούς τομείς πολιτικής της.

Η απόφαση αυτή αποτελεί την πρώτη σημαντική κίνηση ενός οργανισμού του Westminster να αποχωρήσει από το X ως απάντηση στην κατάχρηση του Grok. Αν και η απόφαση αφορούσε μόνο τον λογαριασμό της επιτροπής, ορισμένα μεμονωμένα μέλη, μεταξύ των οποίων και η πρόεδρος του Εργατικού Κόμματος, Sarah Owen, έχουν ήδη σταματήσει να χρησιμοποιούν το X.

Η βουλευτής των Φιλελεύθερων Δημοκρατών Christine Jardine, δήλωσε ότι αποχωρεί από την πλατφόρμα, χαρακτηρίζοντας τις εικόνες που δημιουργούνται από το Grok ως «την τελευταία σταγόνα».

Άμεσος κίνδυνος

«Είμαστε εξαιρετικά ανήσυχοι για την ευκολία και την ταχύτητα με την οποία οι άνθρωποι μπορούν προφανώς να δημιουργήσουν φωτορεαλιστικό υλικό σεξουαλικής κακοποίησης παιδιών.

Εργαλεία όπως το Grok κινδυνεύουν πλέον να φέρουν τις σεξουαλικές εικόνες τεχνητής νοημοσύνης με παιδιά στο προσκήνιο. Αυτό είναι απαράδεκτο», πρόσθεσε η Alexander.

Η xAI του Musk, η οποία είναι ιδιοκτήτρια των Grok και X, κλήθηκε να σχολιάσει το θέμα.

Η Downing Street δήλωσε ότι «όλες οι επιλογές είναι ανοιχτές», συμπεριλαμβανομένου του μποϊκοτάζ της X, καθώς οι υπουργοί υποστήριξαν την ρυθμιστική αρχή του Ηνωμένου Βασιλείου, Ofcom, να λάβει μέτρα.

Ο επίσημος εκπρόσωπος του πρωθυπουργού δήλωσε: «Η X πρέπει να αντιμετωπίσει αυτό το ζήτημα επειγόντως και η Ofcom έχει την πλήρη υποστήριξή μας για να λάβει μέτρα επιβολής όπου οι εταιρείες δεν προστατεύουν τους χρήστες του Ηνωμένου Βασιλείου.

Έχει ήδη την εξουσία να επιβάλλει πρόστιμα ύψους έως και δισεκατομμυρίων λιρών και ακόμη και να διακόψει την πρόσβαση σε έναν ιστότοπο που παραβιάζει τον νόμο».

Χρήστες ζητούν όλο και πιο ακραίο περιεχόμενο από το chatbot

Οι αιτήσεις προς το Grok να επεξεργαστεί εικόνες γυναικών για να «τις βάλει σε μπικίνι» συνεχίζουν να κατακλύζουν το X. Παρά τις προειδοποιήσεις για ρυθμιστικά μέτρα από την ΕΕ και το Ηνωμένο Βασίλειο, δεν υπήρχαν ενδείξεις ότι η πλατφόρμα είχε εγκαταστήσει αυστηρότερα μέτρα ασφαλείας.

Οι φωτογραφίες εφήβων κοριτσιών συνεχίζουν να επεξεργάζονται ψηφιακά κατόπιν αιτήματος των χρηστών του X, για να τις δείξουν με μικρά, αποκαλυπτικά εσώρουχα ή σε σεξουαλικά προκλητικές πόζες.

Ορισμένοι χρήστες ζήτησαν πιο ακραίο περιεχόμενο, ζητώντας από το chatbot να διακοσμήσει τα μπικίνι με ναζιστικά σύμβολα ή να τροποποιήσει φωτογραφίες γυναικών ώστε να φαίνονται θύματα κακοποίησης. Το chatbot ανταποκρίθηκε προσθέτοντας εγκαύματα από τσιγάρα, μώλωπες στο πρόσωπο και αίμα σε ορισμένες εικόνες γυναικών.

Η αρχή προστασίας δεδομένων του Ηνωμένου Βασιλείου – το Γραφείο του Επιτρόπου Πληροφοριών (ICO) – δήλωσε ότι επικοινώνησε με την X και την xAI «για να ζητήσει διευκρινίσεις σχετικά με τα μέτρα που έχουν λάβει για να συμμορφωθούν με τη νομοθεσία του Ηνωμένου Βασιλείου για την προστασία των δεδομένων και να προστατεύσουν τα δικαιώματα των ατόμων», προσθέτοντας ότι οι άνθρωποι έχουν «το δικαίωμα να χρησιμοποιούν τα μέσα κοινωνικής δικτύωσης γνωρίζοντας ότι τα προσωπικά τους δεδομένα αντιμετωπίζονται νόμιμα και με σεβασμό».

Η X έχει δηλώσει ότι λαμβάνει μέτρα κατά του παράνομου περιεχομένου, συμπεριλαμβανομένου του υλικού σεξουαλικής κακοποίησης παιδιών, «αφαιρώντας το, αναστέλλοντας μόνιμα τους λογαριασμούς και συνεργαζόμενη με τις τοπικές αρχές και τις αρχές επιβολής του νόμου, όπως απαιτείται».

Με πληροφορίες από The Guardian.