Ο δημιουργός του ChatGPT δήλωσε ότι η αυτοκτονία ενός 16χρονου παιδιού οφειλόταν στην «κακή χρήση» που έκανε στην εφαρμογή και «δεν προκλήθηκε από το chatbot».

Τα σχόλια αυτά περιλαμβάνονται στην απάντηση της OpenAI σε αγωγή που ασκήθηκε εναντίον της εταιρείας του Σαν Φρανσίσκο και του διευθύνοντος συμβούλου της, Sam Altman, από την οικογένεια του εφήβου Adam Raine από την Καλιφόρνια.

Ο Raine αυτοκτόνησε τον Απρίλιο μετά από εκτενείς συνομιλίες και «μήνες ενθάρρυνσης από το ChatGPT», όπως δήλωσε ο δικηγόρος της οικογένειας.Η αγωγή ισχυρίζεται ότι ο έφηβος συζήτησε με το ChatGPT για μια μέθοδο αυτοκτονίας, και το ChatGPT τον καθοδήγησε σχετικά με το αν η προτεινόμενη μέθοδος και αν θα μπορούσε πράγματι να λειτουργήσει. Προσφέρθηκε μάλιστα, να τον βοηθήσει να γράψει ένα σημείωμα αυτοκτονίας για την οικογένειά του.

«Ακατάλληλη χρήση του ChatGPT»

Σύμφωνα με έγγραφα που κατατέθηκαν στο ανώτατο δικαστήριο της πολιτείας της Καλιφόρνια την Τρίτη, η OpenAI δήλωσε ότι «στο βαθμό που οποιαδήποτε «αιτία» μπορεί να αποδοθεί σε αυτό το τραγικό γεγονός», ο «θάνατος του Raine προκλήθηκε, άμεσα ή έμμεσα, εν όλω ή εν μέρει, από την κακή, μη εξουσιοδοτημένη, ακούσια, απρόβλεπτη ή και ακατάλληλη χρήση που έκανε στο ChatGPT».

Ανέφερε ότι σύμφωνα με τους όρους χρήσεις, απαγορεύεται να ζητάει κανείς από το ChatGPT συμβουλές σχετικά με αυτοτραυματισμό, και υπογράμμισε μια διάταξη περιορισμού ευθύνης που ορίζει ότι «δεν θα βασίζεστε στα αποτελέσματα ως μοναδική πηγή αλήθειας ή πραγματικών πληροφοριών».

Η OpenAI, η αξία της οποίας εκτιμάται σε 500 δισεκατομμύρια δολάρια (380 δισεκατομμύρια λίρες), δήλωσε ότι στόχος της είναι «να χειρίζεται τις δικαστικές υποθέσεις που σχετίζονται με την ψυχική υγεία με προσοχή, διαφάνεια και σεβασμό» και ότι «ανεξάρτητα από οποιαδήποτε δικαστική διαμάχη, θα παραμείνουμε επικεντρωμένοι στη βελτίωση μας σύμφωνα με την αποστολή μας».

Σε ανάρτηση στο blog πρόσθεσε: «Εκφράζουμε τα βαθιά μας συλλυπητήρια στην οικογένεια του Adam Raine για την αδιανόητη απώλειά τους. Η απάντησή μας σε αυτές τις κατηγορίες περιλαμβάνει δυσάρεστα στοιχεία για την ψυχική υγεία και τις συνθήκες ζωής του Adam. Η αρχική καταγγελία περιελάμβανε επιλεγμένα αποσπάσματα από τις συνομιλίες του που απαιτούν περισσότερο πλαίσιο, το οποίο συμπεριλαμβάνουμε στην απάντησή μας. Έχουμε περιορίσει τον αριθμό των ευαίσθητων αποδεικτικών στοιχείων που έχουμε αναφέρει δημοσίως και έχουμε υποβάλει τα ίδια τα αντίγραφα των συνομιλιών στο δικαστήριο υπό σφραγίδα».

«Ανησυχητική η απάντηση της OpenAI»

Ο δικηγόρος της οικογένειας, Jay Edelson, χαρακτήρισε την απάντηση της OpenAI «ανησυχητική» και είπε ότι η εταιρεία «προσπαθεί να βρει λάθη σε όλους τους άλλους, συμπεριλαμβανομένου, εκπληκτικά, του ισχυρισμού ότι ο ίδιος ο Adam παραβίασε τους όρους και τις προϋποθέσεις της, χρησιμοποιώντας το ChatGPT με τον τρόπο που είχε προγραμματιστεί να λειτουργεί».

Νωρίτερα αυτό το μήνα, η OpenAI δέχτηκε επτά επιπλέον αγωγές στα δικαστήρια της Καλιφόρνιας σχετικά με το ChatGPT.

Ένας εκπρόσωπος της εταιρείας δήλωσε τότε: «Πρόκειται για μια απίστευτα οδυνηρή κατάσταση και εξετάζουμε τα έγγραφα για να κατανοήσουμε τις λεπτομέρειες. Εκπαιδεύουμε το ChatGPT να αναγνωρίζει και να ανταποκρίνεται σε σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει τις συνομιλίες και να καθοδηγεί τους ανθρώπους προς πραγματική υποστήριξη».

«Για παράδειγμα, το ChatGPT μπορεί να παραπέμψει σωστά σε μια γραμμή βοήθειας για αυτοκτονίες όταν κάποιος αναφέρει για πρώτη φορά την πρόθεσή του, αλλά μετά από πολλά μηνύματα σε μεγάλο χρονικό διάστημα, μπορεί τελικά να δώσει μια απάντηση που αντιβαίνει στα μέτρα ασφαλείας μας», ανέφερε. «Αυτό ακριβώς είναι το είδος της βλάβης που προσπαθούμε να αποτρέψουμε»