Το να είσαι άνθρωπος σημαίνει να προβλέπεις. Από το πότε θα έρθει η βροχή μέχρι το αν πρέπει να εμπιστευτείς έναν ξένο, η επιβίωσή μας βασίστηκε στην ικανότητα να διαβάζουμε μοτίβo και να φανταζόμαστε το επόμενο βήμα. Η μαντεία άλλαξε μορφές, από τα σπλάχνα ζώων και τα φύλλα τσαγιού στα στατιστικά μοντέλα και τα data sets, αλλά η φιλοδοξία παρέμεινε ίδια: να γνωρίζουμε το μέλλον, ώστε να το ελέγχουμε. 

Σήμερα, αλγόριθμοι σε απομακρυσμένους servers προσπαθούν να μαντέψουν την επόμενη λέξη που θα πληκτρολογήσουμε κι άλλοι υπολογίζουν ποια διαφήμιση θα μας “πείσει” να αγοράσουμε. Κάποιοι αξιολογούν αν αξίζουμε δάνειο, αν θα αποφυλακιστούμε, αν θα πάρουμε μεταμόσχευση. Διαμορφώνεται ένα αόρατο, προγνωστικό στρώμα που μεσολαβεί στις αποφάσεις μας και το ζήτημα είναι ποιον εξυπηρετεί. 

Στο The Means of Prediction, ο οικονομολόγος Maximilian Kasy περιγράφει πως η σύγχρονη τεχνητή νοημοσύνη βασίζεται στη “επιβλεπόμενη μάθηση”: τεράστια σύνολα δεδομένων εκπαιδεύουν αλγορίθμους να αναγνωρίζουν μοτίβο και να παράγουν πιθανότητες. Το πρόβλημα είναι πολιτικό. Οι αλγόριθμοι τρέφονται από παρελθόντα δεδομένα που συχνά ενσωματώνουν ρατσισμό, ανισότητες, αποκλεισμούς. Αν το σύστημα προωθεί οργή στα social media, είναι επειδή η οργή αυξάνει το engagement και άρα τα διαφημιστικά έσοδα. Είναι το σύστημα όπως σχεδιάστηκε. 

Ο Kasy δεν πιστεύει ότι αρκεί να φτιάξουμε “πιο δίκαιους” αλγορίθμους. Όσο το κίνητρο είναι το κέρδος, οι προβλέψεις θα υπηρετούν την κερδοφορία. Η πρότασή του αφορά: δημοκρατικό έλεγχο των “μέσων της πρόβλεψης”, δηλαδή των δεδομένων, της υπολογιστικής ισχύος, της τεχνικής γνώσης. Data trusts, φορολόγηση εταιρειών, θεσμικές παρεμβάσεις. Το ερώτημα είναι αν οι κοινωνίες που δυσπιστούν όλο και περισσότερο στους θεσμούς μπορούν να δημιουργήσουν νέους, πιο αξιόπιστους. 

Αλλά πώς φτάσαμε εδώ; 

Στο Irrational Decision, ο Benjamin Recht εντοπίζει τη ρίζα σε αυτό που αποκαλεί “μαθηματική ορθολογικότητα”. Μετά τον Β’ Παγκόσμιο Πόλεμο τα μοντέλα λήψης αποφάσεων που βοήθησαν στη στρατιωτική στρατηγική μετατράπηκαν σε θεμέλιο της πληροφορικής. Ο υπολογιστής σχεδιάστηκε ως ιδανικός ορθολογικός πράκτορας: μια μηχανή που μεγιστοποιεί χρησιμότητα και ελαχιστοποιεί ρίσκο. Σταδιακά η ανθρώπινη κρίση υποχώρησε μπροστά στη βελτιστοποίηση, τη θεωρία παιγνίων, τη στατιστική πρόβλεψη. 

Στον παρόντα χρόνο αυτή η λογική επεκτείνεται παντού. Η ζωή μεταφράζεται σε καζίνο πιθανοτήτων. Κάθε επιλογή από την καριέρα μέχρι τη σχέση αντιμετωπίζεται ως υπολογισμός κόστους-οφέλους. Οι ορθολογιστές της εποχής μας πιστεύουν ότι ο κόσμος θα ήταν καλύτερος αν όλοι σκεφτόμασταν σαν υπολογιστές. Η ιστορία όμως, διαψεύδει αυτή τη μονομέρεια. Οι μεγάλες πρόοδοι στη δημόσια υγεία, στη φυσική, στη δημοκρατία προέκυψαν από συνδυασμό διαίσθησης, ηθικής κρίσης, πολιτικής σύγκρουσης. 

Κάπου εδώ στον εποικοδομητικό, άτυπο αυτόν διάλογο παρεμβαίνει η Carissa Véliz με το Prophecy. Για εκείνη κάθε πρόβλεψη είναι μαγνήτης που λυγίζει την πραγματικότητα προς το μέρος της. Όταν η πρόβλεψη είναι αρκετά ισχυρή γίνεται αιτία της ίδιας της επαλήθευσής της. Ο νόμος του Moore ήταν κινητήριος δύναμη μιας βιομηχανίας που είχε συμφέρον να τον κάνει πραγματικότητα. Οι προβλέψεις δεν είναι ουδέτερες, αλλά πράξεις λόγου. Όταν πιστεύουμε σε μια πρόβλεψη και δρούμε αναλόγως, υπακούμε σε μια εντολή. 

Σε αυτό το πλαίσιο, η τεχνητή νοημοσύνη είναι επιλογή. Οι υποσχέσεις για μηχανική τεχνητή  νοημοσύνη που θα λύσει όλα τα προβλήματα λειτουργούν ως αποπροσανατολισμός. Μετατοπίζουν την προσοχή από τις άμεσες συνέπειες της τεχνολογίας: κατανάλωση ενέργειας, επιτήρηση, αυτοματοποίηση εργασίας, ενίσχυση ανισοτήτων. Οι κοινωνίες που βασίζονται υπερβολικά στην πρόβλεψη τείνουν, όπως σημειώνει η Véliz προς τον αυταρχισμό. Όταν όλα μετατρέπονται σε πιθανότητες, οι πολίτες γίνονται ρίσκο προς διαχείριση κι η ελευθερία περιορίζεται σε στατιστικό σφάλμα. 

Οι μηχανές μαντεύουν διαρκώς το επόμενο βήμα μας, η μεγαλύτερη πράξη ελευθερίας ίσως είναι η απόκλιση. Να διαψεύδουμε τις προσδοκίες των αλγορίθμων, να θυμίζουμε ότι η ανθρώπινη ζωή δεν είναι απλώς σειρά πιθανοτήτων, αλλά πεδίο απρόβλεπτων επιλογών. Όσο ισχυρός κι αν είναι ο μαγνήτης της πρόβλεψης, η πραγματικότητα παραμένει ανοιχτή κι αυτό δεν μπορεί να το υπολογίσει κανένα μοντέλο. 

*Mε στοιχεία από το Technology Review 

 

 

➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram