Οι φονικοί αλγόριθμοι: Από το Project Maven στον φόβο για αλγοριθμικό πόλεμο

Η Τεχνητή Νοημοσύνη έχει ήδη αλλάξει τον τρόπο που εργαζόμαστε, επικοινωνούμε και παράγουμε γνώση. Αυτό πλέον το ξέρουν και οι πέτρες. Σιωπηλά, ωστόσο, μεταβάλλει και κάτι πολύ πιο δραματικό: τον τρόπο που διεξάγονται οι πόλεμοι.

Τα τελευταία χρόνια το αμερικανικό Πεντάγωνο αναπτύσσει ένα σύστημα γνωστό ως Project Maven —μια πλατφόρμα που χρησιμοποιεί αλγόριθμους για να αναλύει τεράστιες ποσότητες στρατιωτικών δεδομένων, από δορυφορικές εικόνες και βίντεο από drones ως τηλεπικοινωνιακά μεταδεδομένα (όπως π.χ. τοποθεσίες κινητών τηλεφώνων) και δεδομένα από ραντάρ. Αυτό που ξεκίνησε το 2017 ως εργαλείο αναγνώρισης αντικειμένων σε βίντεο επιτήρησης, εξελίχθηκε σε μια πολύ ευρύτερη υποδομή που συνδυάζει πληροφορίες από πολλαπλές πηγές. Σκοπός του να υποστηρίζει τη διαδικασία στρατιωτικής στόχευσης.

• Γιατί οι Έλληνες εξομολογούνται τα μυστικά τους στην Τεχνητή Νοημοσύνη

Σήμερα, πάνω σε αυτή την υποδομή ενσωματώνονται μεγάλα γλωσσικά μοντέλα -όπως το Claude της Anthropic, το οποίο είναι το μόνο πιστοποιημένο να λειτουργεί σε διαβαθμισμένο περιβάλλον- και τα οποία λειτουργούν ως το «γνωστικό επίπεδο». Συνθέτουν δηλαδή αναφορές πληροφοριών, συνοψίζουν δεδομένα και βοηθούν τους αναλυτές να εντοπίσουν -και να διαλέξουν- πιθανούς στόχους. Η τεχνολογία αυτή δεν αποφασίζει μόνη της ποιος θα πληγεί —αλλά επιταχύνει δραματικά τον κύκλο της στρατιωτικής απόφασης: από την πληροφορία στο πλήγμα και στην εξολόθρευση του αντιπάλου —ή, ενδεχόμενα, αθώων κοριτσιών του δημοτικού.

Από εβδομάδες επιχειρησιακού σχεδιασμού σε πραγματικό χρόνο —σχεδόν

Στο παραδοσιακό στρατιωτικό περιβάλλον η ανάλυση πληροφοριών μπορεί να διαρκέσει ημέρες ή εβδομάδες. Αναλυτές μελετούν εικόνες, διασταυρώνουν δεδομένα, συντάσσουν αναφορές και τις διαβιβάζουν στην ιεραρχία. Αυτό παίρνει καιρό.

Με τη χρήση συστημάτων όπως το Maven που συνεργάζεται με μεγάλα μοντέλα ΤΝ, αυτή η διαδικασία μπορεί να συμπιεστεί σε ώρες ή και λεπτά. Η σύνθεση δεδομένων από αισθητήρες, πληροφορίες κάθε είδους και αναφορές μπορεί να μετατρέψει τον σχεδιασμό επιχειρήσεων από μια χρονοβόρα γραφειοκρατική διαδικασία σε επιχειρησιακή ανάλυση σχεδόν πραγματικού χρόνου.

Το σύστημα λειτουργεί περίπου ως εξής: δορυφόροι, drones και αισθητήρες συλλέγουν δεδομένα· αλγόριθμοι υπολογιστικής όρασης εντοπίζουν οχήματα, εγκαταστάσεις ή κινήσεις στρατευμάτων· μεγάλα γλωσσικά μοντέλα συνθέτουν τα δεδομένα σε αναφορές και πιθανές λίστες στόχων· και τελικά -ανθρώπινοι ακόμα- αναλυτές αξιολογούν και αποφασίζουν. Επισήμως, η τελική απόφαση παραμένει πάντα σε ανθρώπινα χέρια. Ωστόσο αυτή καθεαυτή η διαδικασία επιλογής στόχων ολοένα και περισσότερο διαμορφώνεται από αλγοριθμικές προτάσεις.

Η στρατιωτική χρήση αυτών των μοντέλων έχει ήδη προκαλέσει έντονες αντιπαραθέσεις. Η εταιρεία Anthropic — που είχε υπογράψει συμβόλαιο 200 εκατομμυρίων δολαρίων με το Υπουργείο Άμυνας (Πολέμου πλέον!), και ήταν η πρώτη εταιρεία ΤΝ που προσάρμοσε την τεχνολογία της στα διαβαθμισμένα δίκτυα του, αρνήθηκε να επιτρέψει τη χρήση του Claude σε αυτόνομα όπλα χωρίς ανθρώπινη εποπτεία ή σε μαζική επιτήρηση Αμερικανών πολιτών. Η συμπεριφορά του μάλιστα διέπεται από ένα πλαίσιο αρχών, βάσει του οποίου εκπαιδεύεται, και που αποκαλείται «σύνταγμα» (ή συγκρότηση).

Αλλά αυτή η αντιπαράθεση απαιτεί ανάλυση σε μεγαλύτερο βάθος από ό, τι επιτρέπει ο χώρος εδώ. Αρκεί να ειπωθεί ότι το επεισόδιο αποκάλυψε κάτι βαθύτερο από μια εμπορική διαμάχη: το κρίσιμο ερώτημα του ποιος έχει τον τελευταίο λόγο για το πώς χρησιμοποιείται η ΤΝ στον πόλεμο —η κυβέρνηση ή οι εταιρείες που την αναπτύσσουν;

Ο φόβος του αλγοριθμικού πολέμου

Πολλοί ερευνητές, ειδήμονες της ΤΝ, και στρατιωτικοί αναλυτές ανησυχούν ότι αυτή η εξέλιξη οδηγεί σε ένα νέο μοντέλο σύγκρουσης που περιγράφεται ως algorithmic warfare (αλγοριθμικός πόλεμος) όπου κρίσιμες αποφάσεις λαμβάνονται με τη βοήθεια ή -και αυτό είναι πιο σημαντικό- υπό την επιρροή αλγορίθμων.

Ο πρώτος κίνδυνος είναι η επιτάχυνση των συγκρούσεων: όσο ταχύτερα λαμβάνονται αποφάσεις, τόσο αυξάνεται ο κίνδυνος λανθασμένων εκτιμήσεων και ανεξέλεγκτης κλιμάκωσης.
Ο δεύτερος είναι η εξάρτηση από αλγοριθμικές προβλέψεις: τα μοντέλα ΤΝ τα οποία εκπαιδεύονται σε δεδομένα και στατιστικά μοτίβα, και σε σύνθετα, απρόβλεπτα περιβάλλοντα -όπως ένας πόλεμος- σίγουρα θα κάνουν λάθη ή θα δημιουργήσουν ψευδείς συσχετίσεις. Έχει αποδειχθεί, ωστόσο, ότι οι ανθρώπινοι χειριστές τους σπάνια θα τα αμφισβητήσουν, ειδικά στην πίεση μίας σύγκρουσης.

Ο τρίτος, τέλος -και μακροπρόθεσμος- κίνδυνος είναι να ξεκινήσει μια παγκόσμια κούρσα εξοπλισμών στην ΤΝ, όπου ο ανταγωνισμός για στρατιωτική υπεροχή μέσω αλγορίθμων μπορεί να οδηγήσει σε λιγότερη επιμέλεια και προσοχή στην ασφάλεια των συστημάτων.

Ορισμένες μελέτες, μάλιστα, επισημαίνουν την επικίνδυνη μείωση του πολιτικού κόστους του πολέμου: όσο περισσότερο οι άνθρωποι αντικαθίστανται από αυτόνομα συστήματα, τόσο ευκολότερη μπορεί να φανεί η έναρξη μιας σύγκρουσης. Αυτό το παρατηρούμε ήδη, αλλά στο τέλος πάντα οι άνθρωποι είναι εκείνοι που σκοτώνονται.

Ένα νέο είδος στρατιωτικής υποδομής

Η χρήση μεγάλων γλωσσικών μοντέλων σε στρατιωτικά συστήματα πληροφοριών σηματοδοτεί μια βαθιά μετατόπιση. Οι πόλεμοι δεν θα διεξάγονται μόνο με όπλα και στρατεύματα, αλλά και με δεδομένα, αλγόριθμους και υπολογιστική ισχύ. Το Project Maven είναι ίσως το πιο χαρακτηριστικό παράδειγμα αυτής της μετάβασης.

Το κρίσιμο ερώτημα δεν είναι πλέον αν η Τεχνητή Νοημοσύνη θα χρησιμοποιηθεί στον πόλεμο. Αυτό έχει ήδη συμβεί. Το ερώτημα είναι πόσο μακριά θα φτάσει η αυτοματοποίηση των αποφάσεων που καθορίζουν τη ζωή και τον θάνατο. Και ποιος, τελικά, θα έχει τον έλεγχο, ο οποίος σιγά σιγά γλιστρά από τα χέρια των ανθρώπων, χωρίς να το καταλαβαίνουν μέχρις ότου είναι πολύ αργά. Ενδεχόμενα μέχρι που θα δουν κοντά τους το πρώτο πυρηνικό μανιτάρι να υψώνεται μεγαλόπρεπα στον ουρανό.