Το 2019, ο Χένρυ Κίσινγκερ μίλησε για την αυξανόμενη τάση να δοθεί ο έλεγχος των πυρηνικών όπλων σε υπολογιστές που λειτουργούν με Τεχνητή Νοημοσύνη. Ο Κίσινγκερ (όλοι οι millennials με φρύδια σηκωμένα αναρωτιούνται ποιος είναι αυτός) υποστήριξε ότι η παραχώρηση της εξουσίας για την εκτόξευση πυρηνικών όπλων σε υπολογιστές – οι οποίοι χρησιμοποιούν αλγόριθμους για τη λήψη αποφάσεων – θα εξαλείψει τον ανθρώπινο παράγοντα λάθους και θα δώσει ένα σημαντικό πλεονέκτημα στο κράτος που διαθέτει το πιο αποτελεσματικό σύστημα τεχνητής νοημοσύνης, καθώς ένας υπολογιστής μπορεί να λάβει αποφάσεις για τον πόλεμο και την ειρήνη πολύ πιο γρήγορα από ό,τι θα μπορούσε ποτέ ένας άνθρωπος. Με λίγα λόγια η κύρια ανησυχία του Κίσινγκερ ήταν ότι μια μέρα η Τεχνητή Νοημοσύνη μπορεί απλά να πει «Κάψτε τα όλα!» • Το νέο πλαίσιο της Ευρωπαϊκής Ένωσης που αφορά τη ρύθμιση της τεχνητής νοημοσύνης περιλαμβάνει μια σειρά εξουσιών για τα εποπτικά όργανα. Αυτά θα μπορούν να διατάσσουν την απόσυρση ενός συστήματος τεχνητής νοημοσύνης ή να απαιτούν την επανεκπαίδευση ενός μοντέλου τεχνητής νοημοσύνης, εάν αυτό κρίνεται υψηλού κινδύνου. Οι ρυθμιστικές Αρχές, σύμφωνα με τις επιταγές του κανονιστικού πλαισίου που θέλει να εφαρμόσει η Ευρωπαϊκή Ένωση, θα πρέπει να έχουν τη δυνατότητα να αποσύρουν μία Τεχνητή Νοημοσύνη ή να περιορίζουν τη λειτουργία της, σε περίπτωση που εντοπίσουν πιθανά προβλήματα ή κινδύνους για το κοινωνικό σύνολο. Σύμφωνα με αυτήν την πρόταση, οι υποχρεωτικές απαιτήσεις συνδέονται με μια κατηγορία εφαρμογών τεχνητής νοημοσύνης “υψηλού κινδύνου”, δηλαδή με εκείνες που παρουσιάζουν σαφή κίνδυνο για την ασφάλεια ή απειλούν να θίξουν θεμελιώδη δικαιώματα της ΕΕ (όπως το δικαίωμα στη μη διάκριση). • Siri παίξε το «Boys Keep Swinging» • Με τον ίδιο τρόπο, λοιπόν, που ένας υπολογιστής με ενισχυμένη τεχνητή νοημοσύνη μπορεί να κερδίσει παρτίδες σκακιού (προβλέποντας τις ανθρώπινες αποφάσεις), ένας υπολογιστής με ενισχυμένη τεχνητή νοημοσύνη θα μπορούσε να είναι χρήσιμος σε μια κρίση, καθώς σε έναν πυρηνικό πόλεμο, η πλευρά που θα χτυπήσει πρώτη θα έχει το πλεονέκτημα να καταστρέψει την πυρηνική ικανότητα του αντιπάλου. • Ο Κίσινγκερ σημείωσε επίσης ότι υπάρχει πάντα ο κίνδυνος ένας υπολογιστής να λάβει μια απόφαση για την έναρξη πυρηνικού πολέμου πριν εξαντληθεί η διπλωματία. Ή ο αλγόριθμος που ελέγχει την ΤΝ να λάβει μια απόφαση για την έναρξη πυρηνικού πολέμου που δεν θα ήταν κατανοητή στους χειριστές της. Παρατήρησε, όμως, ότι η χρήση της τεχνητής νοημοσύνης για τον έλεγχο των πυρηνικών όπλων θα επέβαλε μια μοναδική “αδιαφάνεια” στη διαδικασία λήψης αποφάσεων. • Κι εδώ ο καθένας μπορεί να αναρωτηθεί αν το «Terminator» είναι η αγαπημένη ταινία του κ. Κίσινγκερ. • Και μιας και μιλάμε για ταινίες να πούμε εδώ ότι σε αντίθεση με την κοινή παρανόηση, το κλασικό «Dr. Strangelove» του Κιούμπρικ δεν αφορούσε τον Κίσινγκερ. Ενώ έχει υποστηριχθεί ότι ο χαρακτήρας βασίστηκε στον Χένρι Κίσινγκερ, ο Κιούμπρικ και ο Σέλερς το αρνήθηκαν. • Σήμερα, ευτυχώς, η τεχνητή νοημοσύνη δεν ελέγχει ακόμη τα πυρηνικά όπλα. Διαδραματίζει, όμως, έναν ζωτικό ρόλο στον πόλεμο της πληροφορίας. Πολλοί φοβούνται ότι οι τεχνικές της Α.Ι., όπως τα deepfakes – πολύ ρεαλιστικές απομιμήσεις βίντεο που δημιουργούνται με την τεχνική της Α.Ι. – θα ενισχύσουν τις ρωσικές εκστρατείες παραπληροφόρησης, αν και μέχρι στιγμής δεν υπάρχουν αποδείξεις για τη χρήση deepfakes. Η μηχανική μάθηση μπορεί επίσης να χρησιμοποιηθεί για να βοηθήσει στον εντοπισμό της παραπληροφόρησης. Οι μεγάλες πλατφόρμες κοινωνικής δικτύωσης αναπτύσσουν ήδη αυτά τα συστήματα, αν και το ιστορικό τους όσον αφορά τον ακριβή εντοπισμό και την αφαίρεση της παραπληροφόρησης είναι στην καλύτερη περίπτωση ασταθές. • O πόλεμος έχει επηρεάσει βαθιά τους ερευνητές της τεχνητής νοημοσύνης στον κόσμο, όπως και όλους τους υπόλοιπους, άλλωστε. Πολλοί διακεκριμένοι ερευνητές έχουν εμπλακεί σε συζήτησεις μέσω Twitter σχετικά με το πώς θα πρέπει να ανταποκριθεί καλύτερα το επάγγελμα στη σύγκρουση και πώς η τεχνολογία στην οποία εργάζονται θα μπορούσε να συμβάλει στον τερματισμό της τρέχουσας σύγκρουσης και στην ανακούφιση του ανθρώπινου πόνου. Ή, έστω, στην πρόληψη μελλοντικών πολέμων. Το Protocol διαθέτει μια καλή επισκόπηση της συζήτησης – μεγάλο μέρος της οποίας, βέβαια, στα δικά μου αυτιά τουλάχιστον, ακούγεται παράξενα αφελές και αποσυνδεδεμένο από την πραγματικότητα της διεθνούς πολιτικής, του πολέμου και της ειρήνης. • Και αυτή ακριβώς η αποσύνδεση από την πραγματικότητα μπορεί να φαίνεται ασήμαντη, ίσως και κωμική, αλλά θεωρώ ότι είναι απόλυτα ανησυχητική. Γιατί όταν αυτοί που αναπτύσσουν την τεχνολογία δεν μπορούν να αντιληφθούν τις επιπτώσεις αυτού που κατασκευάζουν και τον τρόπο με τον οποίο μπορεί να χρησιμοποιηθεί, τότε όλοι μας, και όχι μόνο οι Ουκρανοί ή οι Ρώσοι, κινδυνεύουμε. • Αλλά πάλι, όπως είχε πει ο Καμύ, «γνωρίζοντας ότι μια μέρα θα πεθάνουμε όλοι, κάνει τη ζωή να μοιάζει με ένα μεγάλο αστείο».
Το 2019, ο Χένρυ Κίσινγκερ μίλησε για την αυξανόμενη τάση να δοθεί ο έλεγχος των πυρηνικών όπλων σε υπολογιστές που λειτουργούν με Τεχνητή Νοημοσύνη. Ο Κίσινγκερ (όλοι οι millennials με φρύδια σηκωμένα αναρωτιούνται ποιος είναι αυτός) υποστήριξε ότι η παραχώρηση της εξουσίας για την εκτόξευση πυρηνικών όπλων σε υπολογιστές – οι οποίοι χρησιμοποιούν αλγόριθμους για τη λήψη αποφάσεων – θα εξαλείψει τον ανθρώπινο παράγοντα λάθους και θα δώσει ένα σημαντικό πλεονέκτημα στο κράτος που διαθέτει το πιο αποτελεσματικό σύστημα τεχνητής νοημοσύνης, καθώς ένας υπολογιστής μπορεί να λάβει αποφάσεις για τον πόλεμο και την ειρήνη πολύ πιο γρήγορα από ό,τι θα μπορούσε ποτέ ένας άνθρωπος. Με λίγα λόγια η κύρια ανησυχία του Κίσινγκερ ήταν ότι μια μέρα η Τεχνητή Νοημοσύνη μπορεί απλά να πει «Κάψτε τα όλα!» • Το νέο πλαίσιο της Ευρωπαϊκής Ένωσης που αφορά τη ρύθμιση της τεχνητής νοημοσύνης περιλαμβάνει μια σειρά εξουσιών για τα εποπτικά όργανα. Αυτά θα μπορούν να διατάσσουν την απόσυρση ενός συστήματος τεχνητής νοημοσύνης ή να απαιτούν την επανεκπαίδευση ενός μοντέλου τεχνητής νοημοσύνης, εάν αυτό κρίνεται υψηλού κινδύνου. Οι ρυθμιστικές Αρχές, σύμφωνα με τις επιταγές του κανονιστικού πλαισίου που θέλει να εφαρμόσει η Ευρωπαϊκή Ένωση, θα πρέπει να έχουν τη δυνατότητα να αποσύρουν μία Τεχνητή Νοημοσύνη ή να περιορίζουν τη λειτουργία της, σε περίπτωση που εντοπίσουν πιθανά προβλήματα ή κινδύνους για το κοινωνικό σύνολο. Σύμφωνα με αυτήν την πρόταση, οι υποχρεωτικές απαιτήσεις συνδέονται με μια κατηγορία εφαρμογών τεχνητής νοημοσύνης “υψηλού κινδύνου”, δηλαδή με εκείνες που παρουσιάζουν σαφή κίνδυνο για την ασφάλεια ή απειλούν να θίξουν θεμελιώδη δικαιώματα της ΕΕ (όπως το δικαίωμα στη μη διάκριση). • Siri παίξε το «Boys Keep Swinging» • Με τον ίδιο τρόπο, λοιπόν, που ένας υπολογιστής με ενισχυμένη τεχνητή νοημοσύνη μπορεί να κερδίσει παρτίδες σκακιού (προβλέποντας τις ανθρώπινες αποφάσεις), ένας υπολογιστής με ενισχυμένη τεχνητή νοημοσύνη θα μπορούσε να είναι χρήσιμος σε μια κρίση, καθώς σε έναν πυρηνικό πόλεμο, η πλευρά που θα χτυπήσει πρώτη θα έχει το πλεονέκτημα να καταστρέψει την πυρηνική ικανότητα του αντιπάλου. • Ο Κίσινγκερ σημείωσε επίσης ότι υπάρχει πάντα ο κίνδυνος ένας υπολογιστής να λάβει μια απόφαση για την έναρξη πυρηνικού πολέμου πριν εξαντληθεί η διπλωματία. Ή ο αλγόριθμος που ελέγχει την ΤΝ να λάβει μια απόφαση για την έναρξη πυρηνικού πολέμου που δεν θα ήταν κατανοητή στους χειριστές της. Παρατήρησε, όμως, ότι η χρήση της τεχνητής νοημοσύνης για τον έλεγχο των πυρηνικών όπλων θα επέβαλε μια μοναδική “αδιαφάνεια” στη διαδικασία λήψης αποφάσεων. • Κι εδώ ο καθένας μπορεί να αναρωτηθεί αν το «Terminator» είναι η αγαπημένη ταινία του κ. Κίσινγκερ. • Και μιας και μιλάμε για ταινίες να πούμε εδώ ότι σε αντίθεση με την κοινή παρανόηση, το κλασικό «Dr. Strangelove» του Κιούμπρικ δεν αφορούσε τον Κίσινγκερ. Ενώ έχει υποστηριχθεί ότι ο χαρακτήρας βασίστηκε στον Χένρι Κίσινγκερ, ο Κιούμπρικ και ο Σέλερς το αρνήθηκαν. • Σήμερα, ευτυχώς, η τεχνητή νοημοσύνη δεν ελέγχει ακόμη τα πυρηνικά όπλα. Διαδραματίζει, όμως, έναν ζωτικό ρόλο στον πόλεμο της πληροφορίας. Πολλοί φοβούνται ότι οι τεχνικές της Α.Ι., όπως τα deepfakes – πολύ ρεαλιστικές απομιμήσεις βίντεο που δημιουργούνται με την τεχνική της Α.Ι. – θα ενισχύσουν τις ρωσικές εκστρατείες παραπληροφόρησης, αν και μέχρι στιγμής δεν υπάρχουν αποδείξεις για τη χρήση deepfakes. Η μηχανική μάθηση μπορεί επίσης να χρησιμοποιηθεί για να βοηθήσει στον εντοπισμό της παραπληροφόρησης. Οι μεγάλες πλατφόρμες κοινωνικής δικτύωσης αναπτύσσουν ήδη αυτά τα συστήματα, αν και το ιστορικό τους όσον αφορά τον ακριβή εντοπισμό και την αφαίρεση της παραπληροφόρησης είναι στην καλύτερη περίπτωση ασταθές. • O πόλεμος έχει επηρεάσει βαθιά τους ερευνητές της τεχνητής νοημοσύνης στον κόσμο, όπως και όλους τους υπόλοιπους, άλλωστε. Πολλοί διακεκριμένοι ερευνητές έχουν εμπλακεί σε συζήτησεις μέσω Twitter σχετικά με το πώς θα πρέπει να ανταποκριθεί καλύτερα το επάγγελμα στη σύγκρουση και πώς η τεχνολογία στην οποία εργάζονται θα μπορούσε να συμβάλει στον τερματισμό της τρέχουσας σύγκρουσης και στην ανακούφιση του ανθρώπινου πόνου. Ή, έστω, στην πρόληψη μελλοντικών πολέμων. Το Protocol διαθέτει μια καλή επισκόπηση της συζήτησης – μεγάλο μέρος της οποίας, βέβαια, στα δικά μου αυτιά τουλάχιστον, ακούγεται παράξενα αφελές και αποσυνδεδεμένο από την πραγματικότητα της διεθνούς πολιτικής, του πολέμου και της ειρήνης. • Και αυτή ακριβώς η αποσύνδεση από την πραγματικότητα μπορεί να φαίνεται ασήμαντη, ίσως και κωμική, αλλά θεωρώ ότι είναι απόλυτα ανησυχητική. Γιατί όταν αυτοί που αναπτύσσουν την τεχνολογία δεν μπορούν να αντιληφθούν τις επιπτώσεις αυτού που κατασκευάζουν και τον τρόπο με τον οποίο μπορεί να χρησιμοποιηθεί, τότε όλοι μας, και όχι μόνο οι Ουκρανοί ή οι Ρώσοι, κινδυνεύουμε. • Αλλά πάλι, όπως είχε πει ο Καμύ, «γνωρίζοντας ότι μια μέρα θα πεθάνουμε όλοι, κάνει τη ζωή να μοιάζει με ένα μεγάλο αστείο».
