«Ο καθένας θα μπορούσε να απολαύσει μια πολυτελή ζωή αν ο πλούτος που θα παρήγαγαν οι μηχανές μοιραζόταν ή περισσότεροι άνθρωποι θα κατέληγαν σε μια οικτρή φτώχεια αν οι ιδιοκτήτες των μηχανών συνασπιστούν επιτυχώς εναντίον της αναδιανομής του πλούτου. Μέχρι στιγμής, η τάση φαίνεται να είναι προς τη δεύτερη επιλογή, και η τεχνολογία να αυξάνει συνεχώς την ανισότητα».

– Stephen Hawking

Η πεποίθηση ότι η τεχνολογική πρόοδος θα μας σώσει αποτελούσε κάποτε ακρογωνιαίο λίθο στον δημόσιο διάλογο. Η φτώχεια, η πείνα, οι ασθένειες και, αργότερα, η κλιματική αλλαγή θεωρούνταν ανίσχυρες απέναντι στην ανθρώπινη περιέργεια και εφευρετικότητα. Εξάλλου, οι τεχνολογικές εξελίξεις επέτρεψαν στον δυτικό κόσμο να ζει σε πρωτοφανή αφθονία και πολυτέλεια.

Καθώς η ζωή μας γινόταν όλο και μακροβιότερη, η θερμιδική μας πρόσληψη ολοένα και αυξανόταν- και καθώς οι πόλεις μας επεκτείνονταν και στηντελευταία γωνιά αυτού του πλανήτη, μη αφήνοντας κανένα οικοσύστημα ανεπηρέαστο- καθώς νικήσαμε αμέτρητες ασθένειες και σημειώναμε συνεχή πρόοδο προς την εξάλειψη άλλων, αναρωτιόταν κανείς: πού θα καταλήξουν όλα αυτά;

Γιατί πλέον νιώθουμε ότι η τεχνολογία στρέφεται εναντίον μας;

Από το να κάνει τη ζωή μας ευκολότερη και πιο άνετη μέχρι την ολοένα αυξανόμενη ανησυχία, το άγχος και τη σχεδόν συνεχή απειλή της οικονομικής και κοινωνικής κατάρρευσης – μέχρι τη συνεχή εκμετάλλευση του πλανήτη μας, των πόρων του και όλων όσων βαδίζουν, σέρνονται, πετούν ή κολυμπούν σε αυτόν. Είναι η ίδια η τεχνολογική πρόοδος που στρέφεται εναντίον μας; Μήπως ήρθε η ώρα να ανακόψουμε την πρόοδο;

Ο μεγιστοποιητής του συνδετήρα

Για να καταδείξουμε πώς η τεχνολογική πρόοδος και η πολιτισμική ιδεολογία, δηλαδή ο καπιταλισμός, είναι αναπόσπαστα, ας εξετάσουμε το πείραμα σκέψης του μεγιστοποιητή συνδετήρων, που περιέγραψε για πρώτη φορά ο Σουηδός φιλόσοφος Nick Bostrom το 2003.

Ο μεγιστοποιητής συνδετήρων είναι μια υποθετική τεχνητή νοημοσύνη (ΤΝ) που έχει προγραμματιστεί να παράγει όσο το δυνατόν περισσότερους συνδετήρες. Αυτός είναι ο μοναδικός της σκοπός. Ποιες θα ήταν οι συνέπειες;

Για να αυξήσει την παραγωγή της σε συνδετήρες, η ΤΝ θα βελτίωνε συνεχώς τον σχεδιασμό και τη διαδικασία κατασκευής της. Θεωρητικά, η τεχνητή νοημοσύνη θα γινόταν τόσο αποτελεσματική στην παραγωγή συνδετήρων που θα άρχιζε να χρησιμοποιεί όλους τους πόρους του πλανήτη μας για να το κάνει, συμπεριλαμβανομένων, τελικά, των ανθρώπων (των οποίων τα σώματα περιέχουν πολλά μέταλλα που θα μπορούσαν να χρησιμοποιηθούν για την κατασκευή συνδετήρων).

Είναι η τεχνητή νοημοσύνη σε αυτή την περίπτωση κακή; Είναι η τεχνολογία στην οποία βασίζεται κακή; Ο μόνος τρόπος αλληλεπίδρασης της ΤΝ με τον κόσμο είναι η κατασκευή περισσότερων συνδετήρων (ή όχι). Δεν διαθέτει κανένα άλλο πλαίσιο αναφοράς ή σύνολο (προγραμματισμένων) πεποιθήσεων. Ενεργεί απλώς σύμφωνα με τις υποκείμενες οδηγίες της, τις οποίες δεν μπορεί να αλλάξει μόνη της. Θα μπορούσαν οι δημιουργοί του, που ήθελαν απλώς να φτιάξουν περισσότερους συνδετήρες, να μην το σκέφτηκαν καλά;

Οι σύγχρονες εταιρείες και, σε κάποιο βαθμό, οι κυβερνήσεις είναι παρόμοιες με την Τεχνητή Νοημοσύνη του συνδετήρα. Ακολουθούν και αυτές ένα πολύ συγκεκριμένο σύνολο οδηγιών που υπαγορεύονται από τον καπιταλισμό. Κέρδος, αξία μετόχων, τιμές μετοχών, εκμετάλλευση, (ΑΕΠ-) ανάπτυξη και μεγέθυνση της κερδοφορίας, τεχνητή φτώχεια και συρρίκνωση των κοινών – αυτές είναι οι πεποιθήσεις που έχουμε ενσταλάξει στους θεσμούς μας. Κάθε κομμάτι της τεχνολογίας και κάθε ιδιωτική ερευνητική προσπάθεια θα στοχεύει στην εκπλήρωση αυτών των στόχων. Η πρόοδος θα ορίζεται από την αύξηση αυτών των αριθμών επιτυχίας. Είναι αυτό που ο οικονομολόγος Jason Hickel αποκαλεί «αναπτυξιοκρατία».

Έτσι, οι εταιρείες και οι κυβερνήσεις, όπως και η Τεχνητή Νοημοσύνη με το συνδετήρα, λειτουργούν μέσα σε ένα πολύ στενό πλαίσιο αναφοράς. Δεν είναι κακές από μόνες τους- απλώς εκτελούν τις οδηγίες που τους τέθηκαν. Αυτό που τους έχουμε προγραμματίσει να κάνουν.

Δεν θα περιμένατε από την Τεχνητή Νοημοσύνη με το συνδετήρα να νοιάζεται για την καταστροφή του περιβάλλοντος ή για τις ανθρώπινες ζωές – γιατί να νοιάζεται άλλωστε; Η μοναδική της λειτουργία είναι να κατασκευάζει συνδετήρες. Για την επίτευξη αυτού του στόχου, θα κάνει ό,τι περνάει από τις ολοένα αυξανόμενες εξουσίες της. Αν δεν ελεγχθεί, θα καταστρέψει εν τέλει τον ανθρώπινο πολιτισμό. Γιατί θα έπρεπε οι επιχειρήσεις και οι κυβερνήσεις να συμπεριφέρονται διαφορετικά; Γιατί θα πρέπει να ανησυχούν για τα οικοσυστήματα και την κλιματική αλλαγή; Για τη φτώχεια, τον ανθρώπινο πόνο, την καταστροφή και την εξάντληση των πόρων του πλανήτη μας;

Οι σύγχρονες εταιρείες, σύμφωνα με τον συγγραφέα επιστημονικής φαντασίας Charlie Stross, είναι «βραδεία τεχνητή νοημοσύνη». Και, όπως και ο μεγιστοποιητής συνδετήρων του Bostrom, αυτές οι AI – εταιρείες – ακολουθούν ένα σύνολο οδηγιών που τις αναγκάζει να βελτιστοποιούν τους λάθος στόχους και να θεωρούν τις ανθρώπινες αξίες ως εμπόδια.

Η βοήθεια δεν είναι κερδοφόρα- η εκμετάλλευση είναι.

πρόοδο
Artwork: @artificial_vandalism

Η ασταμάτητη μηχανή

Θα μπορούσε κανείς να ισχυριστεί ότι οι εταιρείες δεν είναι εντελώς ελεύθερες να κάνουν ό,τι θέλουν (σε αντίθεση με την ΤΝ στο πείραμα με τον συνδετήρα). Αν προκαλέσουν πολύ μεγάλη ζημιά, οι άνθρωποι – εμείς ως κοινωνία – θα επέμβουν. Λοιπόν, σε αυτό ακριβώς το σημείο βρισκόμαστε αυτή τη στιγμή. Κάποιοι μπορεί να ισχυριστούν ότι έχουμε ήδη αργήσει πολύ.

Οι εταιρείες ήταν ουσιαστικά ελεύθερες να εκμεταλλεύονται τους πόρους και τους ανθρώπους κατά βούληση. Στη Δύση, ισχυρές δομές πολιτών, όπως τα εργατικά συνδικάτα και οι ομάδες προστασίας του περιβάλλοντος, βοήθησαν να μετριαστούν κάποιες από τις χειρότερες συνέπειες (αν και έχουν επίσης αποδυναμωθεί σημαντικά τις τελευταίες δεκαετίες), ωστόσο ο καπιταλισμός δεν έχει σταματήσει να εκμεταλλεύεται- έχει απλώς μετατοπιστεί σε πιο πράσινα βοσκοτόπια.

Όπως κάθε φορά που βρέθηκε αντιμέτωπο με τα όριά του, το καπιταλιστικό σύστημα βρήκε μια «λύση». Η νεοαποικιοκρατία, με τη μορφή των προγραμμάτων διαρθρωτικής προσαρμογής του ΔΝΤ, της Παγκόσμιας Τράπεζας και του Παγκόσμιου Οργανισμού Εμπορίου, και η παγίδα του χρέους, για παράδειγμα, έχουν εξυπηρετήσει θαυμάσια τον καπιταλισμό. Αυτά τα εργαλεία έχουν επίσης κρατήσει τον Παγκόσμιο Νότο εξαθλιωμένο και απελπισμένο.

Οι εταιρείες, στην πραγματικότητα, δολοφονούν ενεργά ανθρώπους για να παράγουν συνδετήρες. Απλά δεν το κάνουν στις αυλές μας. Το κάνουν στη Νιγηρία, όπου η BP και άλλες δυτικές εταιρείες χρηματοδοτούν βίαιες πολιτοφυλακές και συμμορίες για να προωθήσουν τα συμφέροντά τους, και το κάνουν στα ορυχεία κοβαλτίου και λιθίου του Κονγκό, της Ζιμπάμπουε ή της Ναμίμπια, όπου οι μη ασφαλείς συνθήκες εργασίας και η παιδική εργασία σκοτώνουν έναν ανείπωτο (και κυρίως μη καταγεγραμμένο) αριθμό ανθρακωρύχων. Αλλά, πρώτα και κύρια, το κάνουν έμμεσα. Με τη διατήρηση του status quo, με την εκμετάλλευση και την εξαθλίωση, με πολιτικές που αποσκοπούν στην κεφαλαιοποίηση των ελεύθερα διαθέσιμων πόρων, με τον αντίκτυπο και τη διαφθορά της πολιτικής και με την πυροδότηση της κλιματικής αλλαγής.

Φαίνεται ότι δεν υπάρχει ακόμη επαρκές κίνητρο για να μπει ένα τέλος σε αυτό. Μέχρι να συνειδητοποιήσουμε τι επιτρέψαμε να συμβεί, θα είναι πολύ αργά. Καλώς ήρθατε στην καπιταλιστική δυστοπία.

Τι είναι αυτό που φοβόμαστε πραγματικά;

Οι περισσότεροι φόβοι για την τεχνολογική πρόοδο είναι καλύτερα κατανοητοί ως φόβοι για τον καπιταλισμό. Ως ανησυχίες για το πώς οι καπιταλιστές θα εκμεταλλευτούν τις νέες τεχνολογίες και θα τις χρησιμοποιήσουν εναντίον μας.

Πόσο θα φοβόμασταν την πρόοδο, το μέλλον και τις νέες τεχνολογίες αν ζούσαμε σε έναν πιο δίκαιο κόσμο; Σε ένα σύστημα του οποίου τα θεμέλια δεν θα διαμορφώνονται από τον ανταγωνισμό, τον ατομικισμό, τον εγωισμό, την ατελείωτη ανάπτυξη, την κερδοφορία και την επιθυμία να βάλουμε μια τιμή στα πάντα; Τι θα γινόταν αν ζούσαμε σε ένα πιο δίκαιο σύστημα- ένα σύστημα στο οποίο οι πόροι και οι καρποί της προόδου κατανέμονται ισότιμα μεταξύ όλων μας;

Αυτό που αντιλαμβανόμαστε ως φόβο για την πρόοδο είναι μάλλον φόβος για το πώς ο καπιταλισμός θα χρησιμοποιήσει αυτή την πρόοδο. Για το πώς θα κάνει τις ζωές των ανθρώπων ακόμη πιο δύσκολες, για το πώς θα αυξήσει την ανισότητα, πλουτίζοντας λίγους ενώ θα εκμεταλλεύεται ακόμη περισσότερο τους πολλούς. Κάθε καινοτομία που βελτίωσε την αποτελεσματικότητα χρησιμοποιήθηκε για να αυξήσει τα κέρδη και να εντείνει την εκμετάλλευση, αντί να βελτιώσει τις ζωές (για παράδειγμα, επιτρέποντας στους ανθρώπους να εργάζονται λιγότερο ή μοιράζοντας τα κέρδη στο ευρύ κοινό). Ένα φαινόμενο που ονομάζεται παράδοξο του Jevons.

Είναι σημαντικό να θυμόμαστε ότι αυτή η συμπεριφορά δεν είναι εγγενής στην τεχνολογική πρόοδο και την καινοτομία. Αντίθετα, αναφέρεται στον τρόπο με τον οποίο γίνεται αντιληπτή και εφαρμόζεται η πρόοδος στην κοινωνία μας. Είναι ο καπιταλισμός, με το δόγμα της αέναης ανάπτυξης σε πεπερασμένους πόρους. Αντί να καλωσορίζουμε τις τεχνολογίες με τη δυνατότητα να βελτιώσουν τη ζωή μας (για παράδειγμα, τις πρόσφατες εξελίξεις στην τεχνητή νοημοσύνη), πρέπει να αναρωτιόμαστε συνεχώς πώς ο καπιταλισμός θα εκμεταλλευτεί αυτές τις εξελίξεις. Πρέπει να είμαστε συνεχώς σε επαγρύπνηση. Είναι αυτή η συμπεριφορά μιας υγιούς κοινωνίας;

Η τεχνολογία δεν είναι αμερόληπτη ή ουδέτερη. Κατασκευάζεται με συγκεκριμένο σκοπό, ο οποίος καθορίζεται από το κοινωνικοϊστορικό της πλαίσιο. Αυτό το πλαίσιο καθορίζει και περιορίζει το πεδίο των πιθανών εφαρμογών της τεχνολογίας.

Η ικανότητά μας να χρησιμοποιούμε την τεχνολογία πέρα από αυτό το πεδίο περιορίζεται, επειδή ο καπιταλισμός περιορίζει τη φαντασία μας. Με το σημερινό σύστημα, είναι πολύ πιο εύκολο να φανταστούμε μια νέα τεχνολογία που θα αλλάξει τα δεδομένα και θα κάνει τη ζωή μας πιο δύσκολη, παρά να μας επιτρέψει να δουλεύουμε λιγότερες ώρες και να απολαμβάνουμε περισσότερο ελεύθερο χρόνο. Ένα από τα πιο καταστροφικά πράγματα που κάνει ο καπιταλισμός είναι να περιορίζει τη φαντασία των ανθρώπων, εμποδίζοντάς τους να οραματίζονται και να εργάζονται για έναν καλύτερο κόσμο.

Είναι ένα ακόμη σύμπτωμα της καπιταλιστικής πραγματικότητας.

✥ Δείτε επίσης: Αγάπη και καπιταλισμός, μια διεστραμμένη σχέση