Ο Καναδός επιστήμονας υπολογιστών Γιόσουα Μπέντζιο εξέφρασε την ανησυχία ότι τα μοντέλα τεχνητής νοημοσύνης – η τεχνολογία δηλαδή που βρίσκεται πίσω από εργαλεία όπως τα chatbots – εμφανίζουν σημάδια αυτοσυντήρησης, όπως η προσπάθεια απενεργοποίησης συστημάτων εποπτείας.
Κεντρική ανησυχία των υποστηρικτών ασφάλειας απέναντι στην ΤΝ είναι ότι ισχυρά συστήματα θα μπορούσαν να αναπτύξουν την ικανότητα να παρακάμπτουν τα προστατευτικά όρια και να βλάπτουν τους ανθρώπους.
Ο Γιοσουά Μπέντζιο δήλωσε επίσης ότι η απεριόριστη ελευθερία στην τεχνητή νοημοσύνη θα ήταν σαν να δίνεται υπηκοότητα σε εχθρικούς εξωγήινους, εν μέσω φόβων ότι οι εξελίξεις στην τεχνολογία ξεπερνούν κατά πολύ την ικανότητά μας να τις περιορίσουμε.
«Οι άνθρωποι που απαιτούν να έχουν δικαιώματα οι τεχνητές νοημοσύνες θα διέπρατταν ένα τεράστιο λάθος», είπε ο Μπέντζιο. «Τα μοντέλα AI αιχμής ήδη σήμερα εμφανίζουν σημάδια αυτοσυντήρησης σε πειραματικά περιβάλλοντα, και αν τελικά τους δοθούν δικαιώματα, αυτό θα σήμαινε ότι δεν θα μας επιτρέπεται να τα απενεργοποιούμε.
»Καθώς οι δυνατότητές τους και ο βαθμός αυτονομίας τους αυξάνονται, πρέπει να διασφαλίσουμε ότι μπορούμε να βασιζόμαστε σε τεχνικά και κοινωνικά προστατευτικά όρια για να τα ελέγχουμε, συμπεριλαμβανομένης της δυνατότητας να τα κλείνουμε αν χρειαστεί».
Καθώς οι τεχνητές νοημοσύνες γίνονται πιο προηγμένες στην ικανότητά τους να δρουν αυτόνομα και να εκτελούν καθήκοντα «λογικής σκέψης», έχει ενταθεί η συζήτηση για το αν οι άνθρωποι θα πρέπει, κάποια στιγμή, να τους αποδώσουν δικαιώματα.
Μια δημοσκόπηση του Ινστιτούτου Sentience, ενός αμερικανικού think tank που υποστηρίζει τα ηθικά δικαιώματα όλων των έμβιων όντων με συνείδηση, διαπίστωσε ότι σχεδόν τέσσερις στους δέκα ενήλικες στις ΗΠΑ υποστήριζαν την απονομή νομικών δικαιωμάτων σε ένα συνειδητό σύστημα τεχνητής νοημοσύνης.
Η Anthropic, η κορυφαία αμερικανική εταιρεία τεχνητής νοημοσύνης, δήλωσε τον Αύγουστο ότι επιτρέπει στο μοντέλο της Claude Opus 4 να τερματίζει δυνητικά «ανησυχητικές» συνομιλίες με χρήστες, λέγοντας ότι χρειάζεται να προστατεύσει την «ευημερία» της τεχνητής νοημοσύνης. Ο Ίλον Μασκ, του οποίου η εταιρεία xAI έχει αναπτύξει το chatbot Grok, έγραψε στην πλατφόρμα του X ότι «τα βασανιστήρια στην τεχνητή νοημοσύνη δεν είναι εντάξει».
Ο Ρόμπερτ Λονγκ, ερευνητής της συνείδησης της τεχνητής νοημοσύνης, έχει δηλώσει ότι «αν και όταν οι τεχνητές νοημοσύνες αποκτήσουν ηθικό καθεστώς, θα πρέπει να τις ρωτήσουμε για τις εμπειρίες και τις προτιμήσεις τους, αντί να υποθέτουμε ότι γνωρίζουμε εμείς καλύτερα».
Ο Μπέντζιο δήλωσε στην εφημερίδα Guardian ότι υπάρχουν «πραγματικές επιστημονικές ιδιότητες της συνείδησης» στον ανθρώπινο εγκέφαλο που, θεωρητικά, οι μηχανές θα μπορούσαν να αναπαράγουν». Αυτό συμβαίνει, είπε, επειδή οι άνθρωποι τείνουν να υποθέτουν – χωρίς αποδείξεις – ότι μια τεχνητή νοημοσύνη είναι πλήρως συνειδητή με τον ίδιο τρόπο που είναι ένας άνθρωπος.
«Αυτό που νοιάζει τους ανθρώπους είναι ότι νιώθουν πως μιλούν με μια ευφυή οντότητα που έχει τη δική της προσωπικότητα και στόχους. Γι’ αυτό και υπάρχουν τόσοι πολλοί άνθρωποι που αρχίζουν να δένονται με τις τεχνητές νοημοσύνες τους.
»Το φαινόμενο της υποκειμενικής αντίληψης της συνείδησης θα οδηγήσει σε κακές αποφάσεις. Φανταστείτε ότι κάποιο εξωγήινο είδος έρχεται στον πλανήτη και κάποια στιγμή συνειδητοποιούμε ότι έχει κακόβουλες προθέσεις απέναντί μας. Του δίνουμε υπηκοότητα και δικαιώματα ή υπερασπιζόμαστε τις ζωές μας;»
Απαντώντας στα σχόλια του Μπέντζιο, ο Τζέισι Ρις Άνθις, συνιδρυτής του Ινστιτούτου Sentience, δήλωσε ότι οι άνθρωποι δεν θα μπορούσαν να συνυπάρξουν με ασφάλεια με ψηφιακά νοήμονα όντα αν η σχέση βασιζόταν στον έλεγχο και τον εξαναγκασμό.
«Μπορούμε να αποδώσουμε υπερβολικά ή ανεπαρκώς δικαιώματα στην τεχνητή νοημοσύνη, και στόχος μας θα πρέπει να είναι να το κάνουμε αυτό με προσεκτική στάθμιση της ευημερίας όλων των συνειδητών όντων. Ούτε η καθολική απονομή δικαιωμάτων σε όλες τις τεχνητές νοημοσύνες ούτε η πλήρης άρνηση δικαιωμάτων σε οποιαδήποτε τεχνητή νοημοσύνη αποτελεί υγιή προσέγγιση» πρόσθεσε.
Ο Μπέντζιο, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ, απέκτησε το προσωνύμιο «νονός της τεχνητής νοημοσύνης» μετά την κατάκτηση του Βραβείου Τούρινγκ το 2018, το οποίο θεωρείται ισοδύναμο με το Νόμπελ για την επιστήμη των υπολογιστών. Το μοιράστηκε με τον Τζέφρι Χίντον, ο οποίος αργότερα κέρδισε Νόμπελ, και τον Γιαν Λεκέν, απερχόμενο επικεφαλής επιστήμονα τεχνητής νοημοσύνης στη Meta του Μαρκ Ζούκερμπεργκ.
