Ο Κωνσταντίνος Δασκαλάκης και ο Σεντρίκ Βιλανί γνωρίστηκαν πριν μερικά χρόνια στα Χανιά και έκτοτε έχουν «κολλήσει». Σε μερικές μέρες θα τα πουν και πάλι από κοντά στο πλαίσιο της διεπιστημονικής γιορτής του «Festum π».
Ως δύο γονείς, ξεκινούν σε αυτόν τον «Διάλογο στο Β», από το βιολογικό «θαύμα» της κατάκτησης της γλώσσας.αναδεικνύοντας την εγγενή υπεροχή των ανθρώπων στην ενσώματη εμπειρία και τον πειραματισμό με τον φυσικό κόσμο.
Στη συνέχεια αποδομούν τον μύθο της υπερνοημοσύνης και προειδοποιούν για τα όρια της κλιμάκωσης των σύγχρονων γλωσσικών μοντέλων, θίγοντας τις γεωπολιτικές διαστάσεις της τεχνολογικής εξάρτησης, την κλιματική κρίση, και την πτώση της «οικονομίας των θεωρημάτων».Και καταλήγουν σε μια βαθιά αλήθεια: η κατανόηση, η σοφία, η δημιουργικότητα και ο στοχασμός της θνητότητας παραμένουν αποκλειστικό προνόμιο της ανθρώπινης κατάστασης.
Σεντρίκ Βιλανί: «Κωστή, βρίσκεσαι στην Αθήνα, σωστά;».
Κωνσταντίνος Δασκαλάκης: «Ναι, είμαστε στην Αθήνα εδώ και ένα μήνα και θα μείνουμε περίπου άλλους δύο».
Σ.Β.: «Πώς είναι τα παιδιά; Πώς τα πάνε με τη γλώσσα;».
Κ.Δ.: «Οι δέκα μηνών κόρες μου χτίζουν πυρετωδώς τις συναπτικές συνδέσεις που σχετίζονται με τη γλώσσα, ενώ τα ελληνικά του αδελφού τους έχουν απογειωθεί μέσα στον μήνα που είμαστε εδώ. Είναι συναρπαστικό να παρατηρώ πώς αποκτά γνωστικές δεξιότητες και αντιλαμβάνεται αιτιώδεις σχέσεις, έναν κεντρικό πυλώνα της νοημοσύνης στον οποίο η σύγχρονη ΤΝ εξακολουθεί να υστερεί. Τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται από περιγραφές του κόσμου, που αντλούνται από το Ίντερνετ και ψηφιακά αρχεία. Οι αιτιακές σχέσεις όμως δεν μπορούν να εξαχθούν μόνο από παρατηρήσεις χωρίς πειραματισμό. Αυτή είναι η μαθηματική αλήθεια».
«Μιλάμε για υπερνοημοσύνη, αλλά κανείς δεν ξέρει τι σημαίνει»
Σ.Β.: «Έχοντας τα βιολογικά σου παιδιά πλάι στα αλγοριθμικά, συνειδητοποιείς πόσο διαφέρουν. Είναι συναρπαστικό να βλέπεις πώς τα πρώτα μαθαίνουν γλώσσες και μαντεύουν κλίσεις και καταλήξεις με αναλογίες και λίγα παραδείγματα. Μαθαίνεις κάτι με το δεξί σου χέρι, μετά το σπας και το ξαναμαθαίνεις γρηγορότερα με το αριστερό. Οι μηχανισμοί μεταφοράς γνώσης που εμπλέκουν σώμα και εγκέφαλο είναι αξιοθαύμαστοι».
Κ.Δ.: «Αντίθετα, τα σύγχρονα συστήματα ΤΝ χρειάζονται πολλά παραδείγματα για να αποκτήσουν μια νέα δεξιότητα και δυσκολεύονται να μεταφέρουν γνώση από κάτι που ξέρουν σε κάτι καινούριο. Αυτή η αδυναμία αποτελεί σημαντικό εμπόδιο για πιο προηγμένες μορφές ΤΝ».
Σ.Β.: «Μιλάμε για υπερνοημοσύνη, αλλά κανείς δεν ξέρει τι σημαίνει. Η σύγκριση των μεγάλων γλωσσικών μοντέλων με τους ανθρώπους είναι τόσο δύσκολη, ώστε ίσως δεν έχει νόημα να τα κατατάσσουμε στην ίδια κλίμακα. O ανθρώπινος νους διαθέτει αναπαραστάσεις αιτιωδών σχέσεων. Τα μεγάλα γλωσσικά μοντέλα δεν διαθέτουν ρητά τέτοιες αναπαραστάσεις, καθώς εκπαιδεύονται να εκτελούν μαθηματικές πράξεις πάνω σε λέξεις!».
Κ.Δ.: «Αποκτούν υπόρρητες αναπαραστάσεις του κόσμου καθώς εκπαιδεύονται να προβλέπουν την επόμενη γλωσσική μονάδα. Οι αναπαραστάσεις αυτές ενσωματώνονται στις παραμέτρους τους, αλλά δεν είναι ρητές και επομένως διερευνώνται δύσκολα. Το αναπάντεχο είναι ότι από τη σχετικά απλή διαδικασία εκπαίδευσής τους αναδύονται ικανότητες που φαίνεται να απαιτούν συλλογιστική, ακόμη και μαθηματική».
Σ.Β.: «Είναι, όντως, τρελό. Βλέπω συναδέλφους μου να χρησιμοποιούν αυτά τα εργαλεία στα μαθηματικά, αναθέτοντάς τους εργασίες όπως: “έλεγξε αυτή την απόδειξη”, “απλοποίησέ την”, “βελτίωσε αυτή την ενότητα”, “ετοίμασε τις διαφάνειες”. Το εργαλείο κάνει σε πέντε λεπτά αυτό που ένας διδακτορικός φοιτητής θα έκανε σε πέντε μέρες».
Κ.Δ.: «Ακόμη και ανοιχτά μαθηματικά προβλήματα λύνονται πλέον με τη χρήση ΤΝ. Για παράδειγμα, πρόσφατα το μοντέλο της OpenAI κατασκεύασε ένα αντιπαράδειγμα σε μια εικασία που διατύπωσε ο διάσημος μαθηματικός Πολ Έρντος πριν από 80 χρόνια».
Σ.Β.: «Ο όγκος των μαθηματικών δημοσιεύσεων είναι ήδη απάνθρωπα μεγάλος και φοβάμαι ότι θα αυξηθεί. Η “μηχανή” μπορεί να “χωνέψει” μονομιάς εκατομμύρια άρθρα, ενώ εμείς χρειαζόμαστε μια ζωή για να αφομοιώσουμε μερικές εκατοντάδες ή, στην καλύτερη περίπτωση, μερικές χιλιάδες».
«Μερικά από τα καλύτερα μυαλά στον κόσμο συνεισφέρουν δωρεάν — πληρώνουν μάλιστα για να συνεισφέρουν»
Κ.Δ.: «Δεν χρειάζεται πια να γνωρίζεις ένα θεώρημα με το όνομά του ή ποιος κλάδος των μαθηματικών σχετίζεται με το πρόβλημά σου. Επειδή έχουν εκπαιδευτεί σε τεράστιο όγκο μαθηματικών κειμένων, τα μεγάλα γλωσσικά μοντέλα μπορούν να λειτουργήσουν ως εργαλεία σημασιολογικής αναζήτησης, εντοπίζοντας συναφή ορολογία και θεωρήματα ακόμη και χωρίς τις κατάλληλες λέξεις-κλειδιά».
Σ.Β.: «Παρακολουθώ την εξαιρετική δουλειά που κάνουν ευφυείς προγραμματιστές πάνω σε αυτά τα μοντέλα αιχμής για τα μαθηματικά. Αλλά η υπέρτατη ειρωνεία είναι η εξής: οι μαθηματικοί συνάδελφοί μου σε όλο τον κόσμο πληρώνουν πλέον για να αποκτούν πρόσβαση σε αυτά τα εργαλεία και να τα χρησιμοποιούν, συμβάλλοντας έτσι συλλογικά στη βελτίωσή τους. Μερικά από τα καλύτερα μυαλά στον κόσμο συνεισφέρουν δωρεάν — πληρώνουν μάλιστα για να συνεισφέρουν! — σε ένα εγχείρημα που αποτελεί ιδιοκτησία μιας γιγαντιαίας καπιταλιστικής εταιρείας».
Κ.Δ.: «Το οποίο γεννά ερωτήματα για το τι σημαίνει να κάνει κάποιος μαθηματικά σήμερα καθώς και το ποιος ελέγχει την πρόσβαση στα εργαλεία ΤΝ, ερωτήματα που επεκτείνονται πέρα από τα μαθηματικά. Το ζήτημα έχει γεωπολιτικές διαστάσεις: η εξάρτηση ευρωπαϊκών επιχειρήσεων και θεσμών από αμερικανικά μοντέλα αιχμής ενέχει σοβαρούς κινδύνους. Η ανάπτυξη κυρίαρχων τεχνολογιών ΤΝ είναι υπαρξιακής σημασίας για την Ευρώπη».
Σ.Β.: Δες, επίσης, πώς έχει αλλάξει το τοπίο της κυβερνοασφάλειας. Επιθέσεις που εκμεταλλεύονται ευπάθειες μηδενικής ημέρας (σ.σ.: zero-day attacks) σε συστήματα εντοπίζονται πλέον από μεγάλα γλωσσικά μοντέλα, με πολλές εταιρείες να λένε “η πρόληψη είναι καταδικασμένη υπόθεση, ας επικεντρωθούμε καλύτερα στην ανθεκτικότητα”. Φέτος διαπιστώνουμε ότι έχουμε φτάσει σε ένα σημείο καμπής σε αυτή την περιοχή. Παρόλο που τα μεγάλα γλωσσικά μοντέλα αποτελούν δυνατούς κρίκους της αλυσίδας, δεν συνιστούν την τελική απάντηση στο θέμα της κυβερνοασφάλειας».
Κ.Δ.: «Σε αυτή και άλλες εφαρμογές, χρειαζόμαστε κάτι περισσότερο από μοντέλα που απλώς μαθαίνουν “διαβάζοντας” για τον κόσμο. Χρειαζόμαστε μοντέλα που αλληλοεπιδρούν με τον κόσμο και αξιοποιούν αυτή την εμπειρία για να βελτιώνονται. Η κλιμάκωση των συμβατικών μεγάλων γλωσσικών μοντέλων φαίνεται να πλησιάζει στο σημείο της φθίνουσας απόδοσής τους».
Σ.Β.: «Μόλις πριν από δύο χρόνια, επικρατούσε η πεποίθηση ότι η κλιμάκωση είναι το μόνο που χρειαζόμαστε. Διαβάζαμε εξωφρενικά αισιόδοξες δηλώσεις των εταιρειών ΤΝ που μάς έλεγαν ότι η συνεχιζόμενη πρόοδος στον τομέα θα επιτάχυνε δραματικά την παραγωγή επιστήμης, θα απαντούσε σε όλα τα ερωτήματα της Φυσικής, θα αντιμετώπιζε ασθένειες. Τώρα ξέρουμε ότι δεν είναι έτσι».
«Η εξάρτηση ευρωπαϊκών επιχειρήσεων και θεσμών από αμερικανικά μοντέλα αιχμής ενέχει σοβαρούς κινδύνους»
Κ.Δ.: «Τα οφέλη από την κλιμάκωση των συμβατικών μεγάλων γλωσσικών μοντέλων φαίνεται να φθίνουν. Πολλές από τις παρατηρούμενες βελτιώσεις των νεότερων συστημάτων ΤΝ προκύπτουν από συστήματα που οικοδομούνται γύρω από το βασικό μοντέλο και έχουν να κάνουν με την ανάκτηση πληροφοριών, τη χρήση εξωτερικών εργαλείων, τον εκτενέστερο συλλογισμό κλπ. Είναι επομένως ακριβέστερο να μιλάμε για οικοσυστήματα που οργανώνονται γύρω από γλωσσικά μοντέλα με υποστηρικτικές δομές (σ.σ.: harnesses) που βελτιώνουν σημαντικά τις δυνατότητες και την αξιοπιστία τους, χωρίς όμως να εξαλείφουν τους θεμελιώδεις περιορισμούς του βασικού μοντέλου».
Σ.Β.: «Μου αρέσει που τα συστήματα αυτά αρχίζουν να αναδεικνύουν την αξία του διεπιστημονικού διαλόγου. Παρατηρώντας τα, τρέφω μεγαλύτερο θαυμασμό για τον βιολογικό υπολογιστή που λέγεται άνθρωπος, ο οποίος επιτυγχάνει τόσα με ελάχιστη ενέργεια και δεδομένα. Πρέπει να εργαστούμε πιο στοχευμένα στη διεπαφή θετικών και γνωσιακών επιστημών, εξετάζοντας ερωτήματα όπως: “Τι σημαίνει εξηγώ; Τι σημαίνει κατανοώ;”. Ο συνάδελφός μου Νταβίντ Μπεσίς έχει γράψει για την πτώση της λεγόμενης οικονομίας των θεωρημάτων. Κρατώ δύο φράσεις του: “Το καλύτερό μου θεώρημα δεν ήταν θεώρημα, αλλά μια παρατήρηση” και “μερικές φορές η καλύτερη δουλειά μου ήταν απλώς ένας ορισμός”. Το ουσιώδες είναι να εισάγεις μια νέα έννοια, μια νέα οπτική».
Κ.Δ.: «Όταν οι Έλληνες μαθηματικοί της αρχαιότητας, όπως ο Αρχιμήδης, εργάζονταν στον τετραγωνισμό του κύκλου, δεν θα μπορούσε κάποιος να μην αναρωτηθεί: “γιατί μας ενδιαφέρει αυτό το παράξενο πρόβλημα;” Δες όμως τι ώθηση έδωσε στα μαθηματικά και πόσο συναρπαστικό είναι ότι μετά από τόσους αιώνες οδήγησε σε αποδείξεις ότι τελικά ορισμένα πράγματα στα μαθηματικά είναι αδύνατα!».
Σ.Β.: «Οι εργασίες των Ερμίτ και Λίντεμαν, που συνδυαστικά απέδειξαν το αδύνατο του τετραγωνισμού του κύκλου, συνιστούν ένα εκπληκτικό επίτευγμα, έναν ανεκτίμητο θησαυρό για την ανθρωπότητα».
Κ.Δ.: «Πέρα από τη σημασία του να θέτει κανείς τα σωστά ερωτήματα, η έκρηξη της ΤΝ φέρνει επίσης στο προσκήνιο το ερώτημα του τι σημαίνει πραγματικά να κατανοούμε. Θα ήμασταν άραγε ικανοποιημένοι αν η OpenAI παρήγαγε μια απόδειξη δέκα χιλιάδων σελίδων για ένα μαθηματικό θεώρημα;».
«Χρειαζόμαστε κάτι περισσότερο από μοντέλα που απλώς μαθαίνουν “διαβάζοντας” για τον κόσμο»
Σ.Β.: «Όχι, διότι θα ήταν μια απόδειξη που θα μας άφηνε με σχεδόν μηδενική νέα γνώση. Θα προσέφερε μεν καινούργια στοιχεία αλλά ούτε νόηση ούτε σοφία».
Κ.Δ.: «Ακόμη κι αν οι υπολογιστές γίνουν εξαιρετικοί στο να αποφασίζουν την αληθοτιμή μαθηματικών προτάσεων, εξακολουθεί να υπάρχει χώρος για τους ανθρώπους: να οικοδομούν θεωρίες, να θέτουν τα σωστά ερωτήματα και να αναρωτιούνται γιατί αξίζει να επιδιώξουν κάτι».
Σ.Β.: «Και τη στιγμή που ερωτήματα για την κατανόηση, την οικονομία, την κυριαρχία και τη γεωπολιτική παίρνουν τη θέση τους στο δημόσιο διάλογο, οι καύσωνες καταρρίπτουν ρεκόρ, υπενθυμίζοντάς μας όχι μόνο την υλική διάσταση του κόσμου αλλά και το πόσο φτωχή είναι η πολιτική μας οργάνωση συγκριτικά με τις φυσικές προκλήσεις που αντιμετωπίζουμε».
Κ.Δ.: «Αντί να επικεντρωνόμαστε εμμονικά στην υπαρξιακή απειλή της ΤΝ, πρέπει να αντιμετωπίσουμε την άμεση απειλή της κλιματικής αλλαγής. Είναι σημαντικό να σκεφτούμε πώς θα αξιοποιήσουμε την ΤΝ για να μετριάσουμε τις επιπτώσεις της και να αυξήσουμε την ανθεκτικότητα μας σε αυτή. Θα μπορούσε, για παράδειγμα, να μας βοηθήσει η ΤΝ να επιτύχουμε την παραγωγή ενέργειας με σύντηξη;».
Σ.Β.: «Η σύντηξη βρίσκεται, προς το παρόν τουλάχιστον, σε περιοχές της Φυσικής για τις οποίες έχουμε πολύ λίγα δεδομένα. Η στατιστική δεν βοηθάει πολύ εδώ. Εργαστήρια όμως, όπως το CERN, χρησιμοποιούν την ΤΝ επειδή έχουν ανάγκη επεξεργασίας μεγάλου όγκου δεδομένων. Σε αυτές τις περιπτώσεις, η υπολογιστική διάσταση πάει χέρι-χέρι με την υλική και την πειραματική».
Κ.Δ.: «Διαθέτουμε πολλά αλλά ετερογενή δεδομένα, κάτι που δυσκολεύει τις υπάρχουσες μεθόδους ΤΝ. Σε πρόσφατη εργασία μας αναπτύξαμε τεχνικές που συνδυάζουν μικρές ποσότητες δεδομένων υψηλής ποιότητας με μεγάλους όγκους δεδομένων χαμηλότερης ποιότητας ή φαινομενικά άσχετων δεδομένων. Τις εφαρμόσαμε με επιτυχία στη de novo σύνθεση πρωτεϊνών, όπου οι επιβεβαιωμένες τρισδιάστατες δομές είναι πολύ λιγότερες από τις υπολογιστικά προσεγγισμένες».
Σ.Β.: «Αυτές είναι περιπτώσεις όπου η διεπιστημονική συνεργασία καθίσταται αναγκαία και μας ωθούν να στοχαστούμε την ιδέα της μερικώς αυτοματοποιημένης εργασίας. Τα εργαλεία ΤΝ μπορούν να κάνουν μαθηματικά, αλλά τι είναι τελικά τα μαθηματικά; Μπορούν να αναζητούν λύσεις στη χημεία ή στο κλίμα, αλλά ποιος είναι ο στόχος μας; Το ίδιο ισχύει στη μουσική: δεν θέλουμε απλώς ένα εκατομμύριο νέα τραγούδια, αλλά έργα που αντηχούν μέσα μας, μας προσφέρουν μια εμπειρία και εντάσσονται σε ένα πολιτιστικό ρεύμα».
Κ.Δ.: «Η τέχνη συχνά στοχάζεται την ανθρώπινη κατάσταση. Τα συστήματα ΤΝ μπορούν να μάθουν από τις αφηγήσεις μας και να παράγουν πειστικές αναπαραστάσεις της θνητότητας, της επιθυμίας ή του πόνου. Μπορούν να προσομοιώσουν πώς θα μιλούσε ο άνθρωπος για την ανθρώπινη κατάσταση. Δεν κατοικούν όμως τα ίδια σε αυτή».
Σ.Β.: «Μόνο ο άνθρωπος γνωρίζει την ανθρώπινη κατάσταση».
Κ.Δ.: «Ακριβώς. Και αυτό είναι καθοριστικό όταν αναλογιζόμαστε αν και με ποιον τρόπο είναι δημιουργική η ΤΝ. Η παραγωγική ΤΝ εκπαιδεύεται σε ένα σύνολο αντικειμένων, είτε αυτά είναι πίνακες είτε είναι κείμενα, ώστε να παράγει παρόμοια. Μπορεί να ρυθμιστεί με τρόπο ώστε να είναι πιο τυχαία αυτά που παράγει. Όμως η τυχαιότητα δεν ταυτίζεται με τη δημιουργικότητα. Οι περισσότερες αποκλίσεις από οικεία μοτίβα δεν παρουσιάζουν ενδιαφέρον».
Σ.Β.: «Η ανθρώπινη δημιουργικότητα λειτουργεί ανάμεσα στο γνωστό και το άγνωστο, στο εξερευνημένο και το ανεξερεύνητο. Κάποιοι δημιουργοί έχουν μια μοναδική αναλαμπή ιδιοφυΐας, ενώ άλλοι εξερευνούν μανιωδώς. Αυτή η διαφορά αποτελεί μέρος του ύφους τους».
Κ.Δ.: «Ανεξάρτητα από την προσέγγιση τους, οι δημιουργοί αποφασίζουν τι αξίζει να επιδιωχθεί. Αυτή η κρίση καθοδηγείται από το τι θέλουν να εκφράσουν, σε ποιους απευθύνονται και σε ποιο ιστορικό πλαίσιο δημιουργούν. Δεν υπάρχει μια καθολική μαθηματική συνάρτηση που να μας υποδεικνύει τι είναι ενδιαφέρον».
Σ.Β.: «Και αυτή η κρίση εξαρτάται, εν μέρει, από τους ιδιαίτερους τρόπους με τους οποίους οι άνθρωποι αναπαριστούν και οργανώνουν τον κόσμο γύρω τους. Έχουμε ακόμη πολλά να μάθουμε για αυτές τις αναπαραστάσεις, τόσο στην τέχνη όσο και την επιστήμη. Ο γάλλος νευροεπιστήμοντας Στάνισλας Ντεάν έχει υποστηρίξει ότι οι άνθρωποι διαθέτουν ασυνήθιστα ρητές και αφηρημένες γεωμετρικές διαισθήσεις, παρότι άλλα ζώα διαθέτουν σαφώς εξελιγμένη κατανόηση του χώρου».
Κ.Δ.: «Οι μέλισσες είναι ένα ωραίο παράδειγμα. Διανύουν μεγάλες αποστάσεις και επικοινωνούν μεταξύ τους τόσο την κατεύθυνση όσο και την απόσταση των πηγών τροφής».
Σ.Β.: «Ναι, διαθέτουν αυτή τη συμβολική αναπαράσταση στο χορό τους σε σχήμα οκτώ. Και όταν ένα σμήνος επιλέξει μια νέα τοποθεσία για φωλιά, οι μέλισσες-ανιχνευτές συμμετέχουν σε διαδικασίες λήψης αποφάσεων τόσο καλά κατανεμημένες που θυμίζουν πολύ τις ανθρώπινες δημοκρατικές διαδικασίες».
Κ.Δ.: «Το εντυπωσιακό και στις δύο περιπτώσεις είναι ότι η συνολική οργάνωση ενός μεγάλου και σύνθετου συστήματος μπορεί να προκύψει μέσα από απλούς κανόνες σε τοπικό επίπεδο. Αυτό φέρνει στον νου την εργασία του Άλαν Τούρινγκ για τη μορφογένεση, για το πώς μπορούν να προκύπτουν όμορφα μοτίβα στη φύση».
Σ.Β.: «Το μεγάλο ερώτημα που κινητοποιούσε τον Τούρινγκ αφορούσε την ικανότητα των μαθηματικών να εξηγήσουν τον πλούτο του φυσικού κόσμου».
Κ.Δ.: «Μια μορφή νοημοσύνης που άπτεται του φυσικού κόσμου και δυσκολεύεται ακόμη να κατακτήσει η ΤΝ είναι η ρομποτική. Οι αδρές κινητικές δεξιότητες έχουν εξελιχθεί χάρη στους φυσικούς προσομοιωτές, αλλά ο επιδέξιος χειρισμός αντικειμένων παραμένει δύσκολος, επειδή η αφή, η τριβή και η παραμόρφωση των υλικών δεν προσομοιώνονται αξιόπιστα. Γι’ αυτό ρωτώ αστειευόμενος τους συναδέλφους μου: “Πότε θα φτιάξετε ένα ρομπότ που θα αλλάζει αξιόπιστα πάνες;”».
Σ.Β.: «Νομίζω ότι ειδικά την αλλαγή πάνας πρέπει να την κρατήσουμε για εμάς. Είναι κομμάτι του ιερού χρέους μας προς την ανθρωπότητα (σ.σ.: γέλια)».
Ο κ. Κωνσταντίνος Δασκαλάκης είναι καθηγητής Επιστήμης Υπολογιστών.
Ο κ. Σεντρίκ Βιλανί είναι μαθηματικός.
Τη συζήτηση συντόνισε και επιμελήθηκε ο Άγγελος Αλεξόπουλος.
