Πολλά είναι αυτά που υποθέτουμε και ελάχιστα αυτά που γνωρίζουμε πραγματικά για τον τρόπο λειτουργίας του μοντέλου Μythos. Και αυτή είναι η σύντομη απάντηση σε μια σειρά από ερωτήματα που γεννήθηκαν στον απόηχο της περιορισμένης διάθεσης του πολύτιμου, νέου προϊόντος τής Anthropic. Μέχρι στιγμής, το Mythos παρουσιάζεται δημοσίως ως ένα «μαύρο κουτί».
Γνωρίζουμε τι μπορεί να κάνει, αλλά όχι πώς δημιουργήθηκε, ποια είναι η εσωτερική του αρχιτεκτονική ή με ποιες ακριβώς τεχνικές εκπαιδεύτηκε.
Η τεχνολογία παραμένει μη διαθέσιμη εμπορικά στο ευρύ κοινό και μαζί της παραμένουν κρυφές και οι τεχνικές λεπτομέρειες της αρχιτεκτονικής του μοντέλου. Και ενώ οι δημιουργοί του προσπαθούν να διαχειριστούν σε πολλαπλά επίπεδα τις πρωτοφανείς δυνατότητες του «μυθικού» εργαλείου τους, η επιστημονική κοινότητα εμφανίζεται διχασμένη σχετικά με το εάν το Mythos αποτελεί μια ριζική τομή σε σχέση με ό,τι προηγήθηκε ή είναι απλώς ένα αναμενόμενο επόμενο βήμα στη δύσκολα αντιστρέψιμη άνοδο της Τεχνητής Νοημοσύνης.
Τα σημεία υπεροχής
Το Mythos φαίνεται να κατέχει πιο σύνθετες μορφές συλλογιστικής σε σύγκριση με τα υπάρχοντα μοντέλα ΤΝ. Η Anthropic το χαρακτηρίζει ως ένα γλωσσικό μοντέλο γενικής χρήσης. Είναι όμως ικανό να ανιχνεύει με εξαιρετική ακρίβεια σφάλματα που περιέχονται σε κώδικες. Οπως χαρακτηριστικά αναφέρεται στην ιστοσελίδα της εταιρείας «το Claude Mythos Preview αποκαλύπτει ένα σαφές γεγονός: τα μοντέλα Τεχνητής Νοημοσύνης έχουν φτάσει σε ένα επίπεδο ικανότητας στον προγραμματισμό ώστε να μπορούν να ξεπερνούν σχεδόν όλους τους ανθρώπους, εκτός από τους πιο εξειδικευμένους, στον εντοπισμό και την εκμετάλλευση ευπαθειών λογισμικού».
Εύλογα, επομένως, προβάλλεται ως ένα ισχυρό εργαλείο υποστήριξης στον τομέα της κυβερνοασφάλειας, ικανό να αναγνωρίζει ευπάθειες σε σημαντικά εμπορικά και κυβερνητικά ψηφιακά συστήματα. Οι σχετικές αναφορές βασίζονται κυρίως στο εκτενές τεχνικό κείμενο που δημοσίευσε η εταιρεία στις 7 Απριλίου, το οποίο παρουσιάζει τις πρώτες εντυπωσιακές ικανότητες του μοντέλου σε υποθετικά σενάρια επιθέσεων κυβερνοασφάλειας.
Ο δυνητικός κίνδυνος
Εκτός από τον εντοπισμό λειτουργικών σφαλμάτων στον ψηφιακό χώρο, το μοντέλο φέρεται να διαθέτει και μια επιπλέον δυνατότητα: την εκμετάλλευση των πιθανών κενών ασφαλείας. Το Μythos μπορεί να εντοπίζει το σφάλμα ενός κώδικα, να αξιολογεί τις επιπτώσεις του και να διαμορφώνει μια ακολουθία υποθετικών ενεργειών που θα μπορούσαν να οδηγήσουν στην εκμετάλλευσή του. Εν ολίγοις, είναι ικανό να χαρτογραφήσει πιθανές διαδρομές παραβίασης και επίθεσης.
Η Anthropic προειδοποιεί ότι οι επιπτώσεις θα μπορούσαν να είναι σοβαρές για την οικονομία και τη δημόσια ασφάλεια, εάν το μοντέλο βρεθεί «στα λάθος χέρια». Για την αξιολόγηση των δυνατοτήτων του σε πραγματικά σενάρια κυβερνοασφάλειας υπό αυστηρή επίβλεψη, η εταιρεία διαθέτει περιορισμένα το μοντέλο σε επιλεγμένους συνεργάτες μέσω του προγράμματος Project Glasswing (ερευνητική κοινοπραξία για τον εντοπισμό και την αντιμετώπιση κενών ασφαλείας). Μεταξύ αυτών συγκαταλέγονται τεχνολογικοί κολοσσοί όπως η Microsoft και η Google.
Η ανάγκη για επαγρύπνηση αναγνωρίζεται και από τη διεθνή επιστημονική κοινότητα, χωρίς ωστόσο να υπάρχει πλήρης συμφωνία ως προς το μέγεθος του κινδύνου. Πολλοί αντιμετωπίζουν την εμφάνιση τόσο προηγμένων συστημάτων ως φυσική εξέλιξη της Τεχνητής Νοημοσύνης.
Η συζήτηση παραμένει ανοιχτή σχετικά με το αν το Mythos αποτελεί άμεση και ανεξέλεγκτη απειλή στην πράξη ή αν μέρος των ανησυχιών αποδίδεται με υπερβολή, δεδομένων των τεχνικών περιορισμών και των υφιστάμενων μέτρων ασφάλειας. Το βέβαιο είναι πως η πορεία των εξελίξεων θα εξακολουθήσει να προσελκύει το ενδιαφέρον όλων μας.
