Η εικόνα ενός πολέμου που διεξάγεται από μηχανές δεν είναι πια σενάριο επιστημονικής φαντασίας. Αποτελεί προαναγγελία του μέλλοντος. Στον αέρα, στις θάλασσες, στα ψηφιακά δίκτυα, η Τεχνητή Νοημοσύνη (AI) εισχωρεί όλο και βαθύτερα στα νεύρα της στρατιωτικής μηχανής, αλλάζοντας όχι μόνο τα μέσα, αλλά και τη λογική της σύγκρουσης. Η νέα αυτή πραγματικότητα γεννά υποσχέσεις και τρόμο μαζί την ελπίδα ενός “έξυπνου” πολέμου και τον φόβο ενός πολέμου χωρίς ανθρώπινο έλεγχο. 

Φανταστείτε έναν κόσμο όπου οι αποφάσεις για επίθεση λαμβάνονται από αλγόριθμους. Όπου drones με αυτόνομη στόχευση διαλέγουν μόνα τους στόχους, ενώ κυβερνοεπιθέσεις που σχεδιάστηκαν από AI παραλύουν υποδομές, ενέργεια και επικοινωνίες. Την ίδια στιγμή μια αόρατη στρατιά από bot accounts εξαπολύει καταιγισμό παραπληροφόρησης, αλλοιώνοντας την κοινή γνώμη πριν καν ακουστεί ο πρώτος πυροβολισμός. Ο ψηφιακός πόλεμος έχει ήδη ξεκινήσει απλώς δεν έχει ακόμη αναγνωριστεί επισήμως. 

Η γοητεία της τεχνητής νοημοσύνης για τους στρατούς είναι προφανής: υπόσχεται ακρίβεια, ταχύτητα, ανάλυση δεδομένων σε πραγματικό χρόνο. Ένας “στρατός χωρίς λάθη”. Όμως η υπόσχεση αυτή είναι βαθιά απατηλή, γιατί κάθε τεχνολογία φέρει μέσα της τα σφάλματα εκείνων που τη δημιούργησαν. Η AI μαθαίνει από δεδομένα που συχνά είναι προκατειλημμένα, ημιτελή ή παραμορφωμένα και όταν το λάθος ενός ανθρώπου γίνεται λάθος μιας μηχανής, η κλίμακα της καταστροφής πολλαπλασιάζεται. 

Η ηθική και νομική διάσταση είναι εξίσου σκοτεινή. Ποιος φέρει την ευθύνη όταν ένα αυτόνομο σύστημα σκοτώσει αμάχους; Ο προγραμματιστής; Ο στρατηγός; Ο αλγόριθμος; Όπως προειδοποιούν κορυφαίοι στοχαστές, ζούμε την “στιγμή Όπενχάιμερ” της εποχής μας, δηλαδή τη στιγμή που η ανθρωπότητα πρέπει να αποφασίσει αν θα χαλιναγωγήσει τη δύναμή της ή θα καταπιεί τον ίδιο της τον εαυτό. 

Αν και οι δυτικές δυνάμεις δηλώνουν πως δε σκοπεύουν να αναθέσουν ποτέ στη μηχανή την απόφαση για χρήση πυρηνικών όπλων, η πραγματικότητα προχωρά γρηγορότερα από τα ηθικά αναχώματα. Ήδη συστήματα AI χρησιμοποιούνται για στοχοποίηση, κυβερνοεπιχειρήσεις και λήψη τακτικών αποφάσεων στα πεδία μάχης από την Ουκρανία μέχρι τη Μέση Ανατολή. Η “αυτοματοποίηση του πολέμου” δεν είναι πια θεωρία, αλλά πρακτική υπό εξέλιξη. 

Η βιομηχανία γύρω από αυτή τη νέα μορφή πολέμου μεγαλώνει με ρυθμό που θυμίζει την ψηφιακή έκρηξη των αρχών του 2000. Κολοσσοί της τεχνολογίας που μέχρι χθες ορκίζονταν ότι δε θα αγγίξουν τη στρατιωτική σφαίρα, σήμερα συνάπτουν συμφωνίες με κυβερνήσεις και αμυντικούς οργανισμούς, ειδικά μετά τη δεύτερη εκλογή Τραμπ. Η “ηθική αποχή” αντικαθίσταται από “στρατηγική συνεργασία”. Οι ίδιες εταιρείες που υπόσχονται να φέρουν επανάσταση στην επιστήμη και την επικοινωνία, τώρα προσφέρουν λύσεις για να κάνουν τον πόλεμο “αποτελεσματικότερο”. 

Αν αναρωτιέστε γιατί, η απάντηση είναι απλή: τα χρήματα. Τα συστήματα AI κοστίζουν ασύλληπτα ποσά στην ανάπτυξή τους και το στρατιωτικό ταμείο είναι το μόνο αρκετά βαθύ για να τα χρηματοδοτήσει. Ο πόλεμος γίνεται έτσι ο πιο κερδοφόρος πελάτης της τεχνητής νοημοσύνης. Η γραμμή που χωρίζει την καινοτομία από την εκμετάλλευση σβήνει. 

Το πιο επικίνδυνο όμως δεν είναι η τεχνολογία καθαυτή, αλλά η πίστη σ’ αυτήν. Η ιδέα ότι η AI θα κάνει τον πόλεμο “ανθρωπινότερο”, ότι θα περιορίσει τα λάθη, ότι θα σκοτώνει με δικαιοσύνη. Αυτή η ψευδαίσθηση δεν είναι καινούρια. Πρέπει να εφεύρουμε “μαγική μηχανή” που υπόσχεται να εξορθολογίσει το χάος. Μόνο που το χάος δεν εξορθολογίζεται, απλώς αλλάζει πρόσωπο. 

Η ιστορία των drones μας το έχει ήδη δείξει. Όσο πιο φθηνά και “ακριβή” έγιναν τα χτυπήματα, τόσο πιο συχνά χρησιμοποιήθηκαν. Ο πόλεμος δεν περιορίστηκε, απλώς έγινε φθηνότερος, ευκολότερος και πιο απρόσωπος. Στον κόσμο της Τεχνητής Νοημοσύνης, αυτός ο κύκλος κινδυνεύει να επαναληφθεί με τρομακτική ένταση. 

Το πιο ανησυχητικό είναι ότι όλα αυτά συμβαίνουν χωρίς δημόσιο διάλογο. Η κούρσα των εξοπλισμών στην AI εξελίσσεται μέσα σε ένα πέπλο ταχύτητας και μυστικότητας. Ελάχιστοι γνωρίζουν ποια συστήματα αναπτύσσονται, ποια κριτήρια χρησιμοποιούνται, ποια όρια τίθενται. Όταν οι αποφάσεις λαμβάνονται πίσω από κλειστές πόρτες, η τεχνολογία παύει να υπηρετεί την ασφάλεια και αρχίζει να υπηρετεί τη δύναμη. 

Αυτό που χρειαζόμαστε δεν είναι περισσότερη “ευφυΐα” στις μηχανές, αλλά περισσότερη σύνεση στους ανθρώπους. Οι κυβερνήσεις οφείλουν να επιβάλουν αυστηρή διαφάνεια, διεθνείς κανόνες και δημοκρατικό έλεγχο, γιατί αν ο άνθρωπος χάσει τον έλεγχο της ίδιας του της δημιουργίας, τότε δε θα μιλάμε για εξέλιξη, αλλά για παραίτηση από την ίδια την ευθύνη της ύπαρξής μας. 

Ας θυμόμαστε λοιπόν ότι το πρόβλημα δεν είναι ποτέ η μηχανή. Είναι ο άνθρωπος που επιλέγει πώς θα τη χρησιμοποιήσει, γιατί στο τέλος, όσο κι αν προχωρήσουμε ο μόνος αλγόριθμος που μπορεί να σώσει τον κόσμο είναι αυτός της συνείδησης. 

*Mε στοιχεία από το Technology review 

 

 

➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.