Η αυτοκτονία του 16χρονου Adam Raine στο Σαν Φρανσίσκο που, σύμφωνα με την αγωγή των γονιών του, πήρε οδηγίες από το ChatGPT για να τερματίσει τη ζωή του, οδήγησαν την OpenAI στον γονικό έλεγχο, που αναμένεται να εφαρμοστεί «μέσα στον επόμενο μήνα».
Οι γονείς θα μπορούν να συνδέουν τον λογαριασμό τους με εκείνον του εφήβου, να διαχειρίζονται τον τρόπο με τον οποίο το ChatGPT απαντά σε έφηβους χρήστες, να απενεργοποιούν λειτουργίες όπως η μνήμη και το ιστορικό συνομιλιών, καθώς και να λαμβάνουν ειδοποιήσεις όταν το σύστημα ανιχνεύει «στιγμές οξείας ψυχικής δυσφορίας» κατά τη χρήση.
Η OpenAI είχε δηλώσει στο παρελθόν ότι εργαζόταν πάνω σε γονικούς ελέγχους για το ChatGPT, αλλά την Τρίτη διευκρίνισε για πρώτη φορά το χρονοδιάγραμμα διάθεσής τους.
«Είναι μόνο η αρχή»
«Αυτά τα βήματα είναι μόνο η αρχή. Θα συνεχίσουμε να μαθαίνουμε και να ενισχύουμε την προσέγγισή μας, με καθοδήγηση από ειδικούς, με στόχο να κάνουμε το ChatGPT όσο το δυνατόν πιο χρήσιμο» αναφέρει η σχετική ανακοίνωση.
Η OpenAI δεν συνέδεσε άμεσα τα νέα γονικά μέτρα με την υπόθεση αυτοκτονίας του εφήβου, αλλά ανέφερε σε ανάρτηση την περασμένη εβδομάδα ότι «πρόσφατα τραγικά περιστατικά χρήσης του ChatGPT σε στιγμές οξείας κρίσης» την ώθησαν να μοιραστεί περισσότερες λεπτομέρειες σχετικά με την προσέγγισή της στην ασφάλεια. Ήδη, το ChatGPT περιλάμβανε μέτρα όπως η παραπομπή χρηστών σε γραμμές βοήθειας κρίσεων είχε δηλώσει εκπρόσωπος της εταιρείας στο CNN.
Ωστόσο, στην ανακοίνωση που εκδόθηκε την περασμένη εβδομάδα ως απάντηση στην αυτοκτονία του Raine, η εταιρεία αναγνώρισε ότι οι δικλείδες ασφαλείας ενδέχεται μερικές φορές να μην λειτουργούν αξιόπιστα όταν οι χρήστες εμπλέκονται σε μακροσκελείς συνομιλίες με το ChatGPT.
