Κάθε φορά που εμφανίζεται ένα καινούργιο τεχνολογικό θαύμα, οι κυβερνήσεις ακούγονται σαν παιδιά μπροστά στη βιτρίνα παιχνιδάδικου: Δώστε μου αυτό και θα γίνω επιτέλους αποδοτικός. Το ίδιο συμβαίνει σήμερα με την τεχνητή νοημοσύνη (ΤΝ). Μόνο που όπως δείχνει μια νέα βρετανική έρευνα, το λαμπερό εργαλείο μπορεί να σπάσει το πολυτιμότερο κρύσταλλο της δημοκρατίας: την εμπιστοσύνη των πολιτών.
Ο Alexander Wuttke και η ομάδα του ζήτησαν από 1.200 Βρετανούς να τοποθετηθούν πάνω σε υποθετικά σενάρια όπου μια κρατική υπηρεσία, όπως εφορία, υπηρεσία πρόνοιας, ακόμη και δικαστήριο εγγυοδοσίας θα λειτουργούσε είτε με ανθρώπινα χέρια είτε με αλγόριθμους ΤΝ. Σε κάποιους συμμετέχοντες παρουσίασαν μόνο τα «ζουμερά» οφέλη: ταχύτητα, λιγότερη γραφειοκρατία, οικονομία πόρων. Σε άλλους πρόσθεσαν και την σκιά: αδιαφάνεια αποφάσεων, εθιστική εξάρτηση του κράτους από το λογισμικό, δυσκολία να ασκήσεις έφεση αν θεωρείς ότι αδικήθηκες.
Τα νούμερα μιλούν. Όταν ο κόσμος άκουσε μόνο τα γυαλιστερά, η απώλεια ελέγχου που ένιωσε ήταν 45 %. Όταν έμαθε και τις παρενέργειες, η αίσθηση ότι «η δημοκρατία μου γλιστρά από τα χέρια» εκτοξεύτηκε στο 81 %. Κι όσοι ζήτησαν «λιγότερη ΤΝ στο Δημόσιο» πέρασαν από το μόλις 20 % στο ηχηρό 65 %. Στο προσκήνιο λοιπόν, δεν έχουμε απλώς το αιώνιο δίλημμα «άνθρωπος ή μηχανή», αλλά την καρδιά της αντιπροσωπευτικής διακυβέρνησης: ποιος κρατά το τιμόνι και ποιος έχει το δικαίωμα να ρωτήσει «γιατί;».
Για τις κυβερνήσεις η γοητεία είναι κατανοητή. Ένας αλγόριθμος που βγάζει σε πέντε λεπτά κάτι που ο άνθρωπος κάνει σε πέντε μέρες μοιάζει με επανάσταση παραγωγικότητας. Μόνο που το Δημόσιο δεν πουλά παπούτσια, διαχειρίζεται ζωές κι εδώ ακριβώς κρύβεται ο κίνδυνος: στο σφάλμα που δεν διορθώνεται, στη γραφειοκρατία χωρίς πρόσωπο, στον πολίτη που ψάχνει έναν υπεύθυνο να του εξηγήσει τι στράβωσε και βρίσκει μόνο ένα κουμπί «submit».
Η Hannah Quay-de la Vallée από το Center for Democracy & Technology αναφέρει χαρακτηριστικά: «Έχουν υπάρξει ελάχιστες καλές ιστορίες. Αντίθετα, έχουμε ήδη αρκετές αποτυχίες και τα διακυβεύματα είναι τεράστια». Δεν μιλάμε για θεωρία. Στις ΗΠΑ, αλγοριθμικές πλατφόρμες που «ξεσκόνιζαν» αιτήσεις κοινωνικών επιδομάτων κατηγόρησαν δεκάδες χιλιάδες πολιτών για ανύπαρκτη απάτη. Κάποιοι έχασαν σπίτια, άλλοι κήρυξαν πτώχευση. Ένα bug σε κώδικα ισοδυναμούσε με προσωπική καταδίκη.
Οι λάτρεις της ΤΝ απαντούν συχνά: «Θα της ρίξουμε περισσότερο data και όλα θα φτιάξουν». Ο Wuttke τονίζει όμως πως τα μεγαλύτερα και νεότερα μοντέλα εμφάνιζαν εξίσου υψηλά ποσοστά στίγματος απέναντι, λ.χ., σε υποψήφιους με ψυχικές διαταραχές ή εξάρτηση από αλκοόλ. Δηλαδή, τροφοδότησαν τη μηχανή με θηριώδη όγκο δεδομένων και εκείνη απλώς αναπαρήγαγε τα ίδια ανθρώπινα κουσούρια. Η ιδέα ότι το software είναι ουδέτερο ουρανοκατέβατο πλάσμα αποδεικνύεται μύθος: κληρονομεί προκαταλήψεις, τις πολλαπλασιάζει και τις «σερβίρει» με τη βούλα του αλγόριθμου.
Υπάρχει και η πιο ύπουλη παγίδα: το σημείο χωρίς επιστροφή. Όσο περισσότερη δύναμη-εξουσία δίνεις σε ΤΝ, τόσο πιο δύσκολο είναι να πατήσεις φρένο τεχνικά, αλλά και πολιτικά. Ποιος υπουργός θα ακυρώσει ένα πολυ-εκατομμυρίων σύστημα που «ήδη πλήρωσαν οι φορολογούμενοι»; Ποια βουλή θα δεχτεί το κόστος να ξανανοίξει θέσεις εργασίας που αντικατέστησε ο κώδικας; Στο μεταξύ κάθε νέο module κλειδώνει το προηγούμενο σε μια αδιαφανή αρχιτεκτονική. Το δικαίωμα στην ένσταση γίνεται λαβύρινθος κι η έννοια της λογοδοσίας εξατμίζεται.
Δεν είμαστε καταδικασμένοι. Οι ερευνητές ξεκαθαρίζουν ότι μια υπεύθυνη ενσωμάτωση ΤΝ είναι εφικτή. Το κλειδί είναι διαφάνεια, αναστρεψιμότητα και ανθρώπινη τελική υπογραφή. Αν ο πολίτης ξέρει σε ποιον απευθύνεται, αν υπάρχει σαφής διαδικασία ένστασης, αν ο αλγόριθμος ελέγχεται τακτικά για μεροληψία, τότε η τεχνολογία μπορεί πράγματι να ξεκουράσει το Δημόσιο χωρίς να ξεχαρβαλώσει τη δημοκρατία.
Αλλά, ας μη γελιόμαστε: από τις κοινωνικές παροχές έως τις φορολογικές δηλώσεις, η σπασμένη ζωή δεν διορθώνεται με patch. Αν η ΤΝ αποτύχει, ο πολίτης δεν «κάνει restart», απλά πληρώνει με το σπίτι, την υγεία, το ψυχικό του κουράγιο και το κράτος χάνει κάτι ακόμη πιο ακριβό από λεφτά: την αξιοπιστία του.
Η Δημοκρατία δεν είναι μόνο κάλπες, είναι το λογισμικό της αμοιβαίας πίστης. Όταν ο πολίτης πιστεύει ότι η κυβέρνηση τον βλέπει ως άνθρωπο κι όχι ως datapoint δέχεται και τις δύσκολες αποφάσεις, υπομένει τη φορολογία, συναινεί σε νόμους που δεν τον βολεύουν άμεσα. Αντίστροφα όταν αντιληφθεί ότι ένα «μαγικό κουτί» αποφασίζει για λογαριασμό του χωρίς επεξήγηση και χωρίς δρόμο επιστροφής, η σιωπηλή συναίνεση ραγίζει. Τότε γεννιέται ο κυνισμός, και με τον κυνισμό δεν χτίζεις κοινωνικό συμβόλαιο το γκρεμίζεις.
Η τεχνητή νοημοσύνη είναι ήδη εδώ. Θα παραμείνει. Το ερώτημα δεν είναι αν θα τη χρησιμοποιήσουμε στα υπουργεία, αλλά πως. Αν το «πως» συνδυαστεί μόνο με έννοιες όπως η ταχύτητα και το κόστος, τότε το πρόγραμμα θα κρασάρει. Αν γραφτεί με κανόνες διαφάνειας, ισχυρούς θεσμούς ελέγχου και πρωτίστως σεβασμό στην ανθρώπινη αξιοπρέπεια, ίσως το λογισμικό να γίνει πράγματι δημόσιος “υπηρέτης”.
Ο δρόμος είναι στενός και ανηφορικός, αλλά όπως μας θυμίζουν τα στοιχεία του Wuttke, οι πολίτες ξέρουν να διαβάζουν πίσω από το power point. Ίσως τελικά η καλύτερη τεχνητή νοημοσύνη για τη δημοκρατία να είναι η φυσική νοημοσύνη του πολίτη που επιμένει να ρωτά «Γιατί;» κι αυτό το «Γιατί;» δεν πρέπει να το ακούει μια άψυχη κονσόλα, αλλά ένας άνθρωπος, ο εκλεγμένος, ο υπεύθυνος, ο λογοδοτών. Μόνο τότε το κράτος θα παραμείνει δημοκρατικό λογισμικό αντί για αλγοριθμικό δεσμοφύλακα.
*Mε στοιχεία από το NewScientist.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.
Κάθε φορά που εμφανίζεται ένα καινούργιο τεχνολογικό θαύμα, οι κυβερνήσεις ακούγονται σαν παιδιά μπροστά στη βιτρίνα παιχνιδάδικου: Δώστε μου αυτό και θα γίνω επιτέλους αποδοτικός. Το ίδιο συμβαίνει σήμερα με την τεχνητή νοημοσύνη (ΤΝ). Μόνο που όπως δείχνει μια νέα βρετανική έρευνα, το λαμπερό εργαλείο μπορεί να σπάσει το πολυτιμότερο κρύσταλλο της δημοκρατίας: την εμπιστοσύνη των πολιτών.
Ο Alexander Wuttke και η ομάδα του ζήτησαν από 1.200 Βρετανούς να τοποθετηθούν πάνω σε υποθετικά σενάρια όπου μια κρατική υπηρεσία, όπως εφορία, υπηρεσία πρόνοιας, ακόμη και δικαστήριο εγγυοδοσίας θα λειτουργούσε είτε με ανθρώπινα χέρια είτε με αλγόριθμους ΤΝ. Σε κάποιους συμμετέχοντες παρουσίασαν μόνο τα «ζουμερά» οφέλη: ταχύτητα, λιγότερη γραφειοκρατία, οικονομία πόρων. Σε άλλους πρόσθεσαν και την σκιά: αδιαφάνεια αποφάσεων, εθιστική εξάρτηση του κράτους από το λογισμικό, δυσκολία να ασκήσεις έφεση αν θεωρείς ότι αδικήθηκες.
Τα νούμερα μιλούν. Όταν ο κόσμος άκουσε μόνο τα γυαλιστερά, η απώλεια ελέγχου που ένιωσε ήταν 45 %. Όταν έμαθε και τις παρενέργειες, η αίσθηση ότι «η δημοκρατία μου γλιστρά από τα χέρια» εκτοξεύτηκε στο 81 %. Κι όσοι ζήτησαν «λιγότερη ΤΝ στο Δημόσιο» πέρασαν από το μόλις 20 % στο ηχηρό 65 %. Στο προσκήνιο λοιπόν, δεν έχουμε απλώς το αιώνιο δίλημμα «άνθρωπος ή μηχανή», αλλά την καρδιά της αντιπροσωπευτικής διακυβέρνησης: ποιος κρατά το τιμόνι και ποιος έχει το δικαίωμα να ρωτήσει «γιατί;».
Για τις κυβερνήσεις η γοητεία είναι κατανοητή. Ένας αλγόριθμος που βγάζει σε πέντε λεπτά κάτι που ο άνθρωπος κάνει σε πέντε μέρες μοιάζει με επανάσταση παραγωγικότητας. Μόνο που το Δημόσιο δεν πουλά παπούτσια, διαχειρίζεται ζωές κι εδώ ακριβώς κρύβεται ο κίνδυνος: στο σφάλμα που δεν διορθώνεται, στη γραφειοκρατία χωρίς πρόσωπο, στον πολίτη που ψάχνει έναν υπεύθυνο να του εξηγήσει τι στράβωσε και βρίσκει μόνο ένα κουμπί «submit».
Η Hannah Quay-de la Vallée από το Center for Democracy & Technology αναφέρει χαρακτηριστικά: «Έχουν υπάρξει ελάχιστες καλές ιστορίες. Αντίθετα, έχουμε ήδη αρκετές αποτυχίες και τα διακυβεύματα είναι τεράστια». Δεν μιλάμε για θεωρία. Στις ΗΠΑ, αλγοριθμικές πλατφόρμες που «ξεσκόνιζαν» αιτήσεις κοινωνικών επιδομάτων κατηγόρησαν δεκάδες χιλιάδες πολιτών για ανύπαρκτη απάτη. Κάποιοι έχασαν σπίτια, άλλοι κήρυξαν πτώχευση. Ένα bug σε κώδικα ισοδυναμούσε με προσωπική καταδίκη.
Οι λάτρεις της ΤΝ απαντούν συχνά: «Θα της ρίξουμε περισσότερο data και όλα θα φτιάξουν». Ο Wuttke τονίζει όμως πως τα μεγαλύτερα και νεότερα μοντέλα εμφάνιζαν εξίσου υψηλά ποσοστά στίγματος απέναντι, λ.χ., σε υποψήφιους με ψυχικές διαταραχές ή εξάρτηση από αλκοόλ. Δηλαδή, τροφοδότησαν τη μηχανή με θηριώδη όγκο δεδομένων και εκείνη απλώς αναπαρήγαγε τα ίδια ανθρώπινα κουσούρια. Η ιδέα ότι το software είναι ουδέτερο ουρανοκατέβατο πλάσμα αποδεικνύεται μύθος: κληρονομεί προκαταλήψεις, τις πολλαπλασιάζει και τις «σερβίρει» με τη βούλα του αλγόριθμου.
Υπάρχει και η πιο ύπουλη παγίδα: το σημείο χωρίς επιστροφή. Όσο περισσότερη δύναμη-εξουσία δίνεις σε ΤΝ, τόσο πιο δύσκολο είναι να πατήσεις φρένο τεχνικά, αλλά και πολιτικά. Ποιος υπουργός θα ακυρώσει ένα πολυ-εκατομμυρίων σύστημα που «ήδη πλήρωσαν οι φορολογούμενοι»; Ποια βουλή θα δεχτεί το κόστος να ξανανοίξει θέσεις εργασίας που αντικατέστησε ο κώδικας; Στο μεταξύ κάθε νέο module κλειδώνει το προηγούμενο σε μια αδιαφανή αρχιτεκτονική. Το δικαίωμα στην ένσταση γίνεται λαβύρινθος κι η έννοια της λογοδοσίας εξατμίζεται.
Δεν είμαστε καταδικασμένοι. Οι ερευνητές ξεκαθαρίζουν ότι μια υπεύθυνη ενσωμάτωση ΤΝ είναι εφικτή. Το κλειδί είναι διαφάνεια, αναστρεψιμότητα και ανθρώπινη τελική υπογραφή. Αν ο πολίτης ξέρει σε ποιον απευθύνεται, αν υπάρχει σαφής διαδικασία ένστασης, αν ο αλγόριθμος ελέγχεται τακτικά για μεροληψία, τότε η τεχνολογία μπορεί πράγματι να ξεκουράσει το Δημόσιο χωρίς να ξεχαρβαλώσει τη δημοκρατία.
Αλλά, ας μη γελιόμαστε: από τις κοινωνικές παροχές έως τις φορολογικές δηλώσεις, η σπασμένη ζωή δεν διορθώνεται με patch. Αν η ΤΝ αποτύχει, ο πολίτης δεν «κάνει restart», απλά πληρώνει με το σπίτι, την υγεία, το ψυχικό του κουράγιο και το κράτος χάνει κάτι ακόμη πιο ακριβό από λεφτά: την αξιοπιστία του.
Η Δημοκρατία δεν είναι μόνο κάλπες, είναι το λογισμικό της αμοιβαίας πίστης. Όταν ο πολίτης πιστεύει ότι η κυβέρνηση τον βλέπει ως άνθρωπο κι όχι ως datapoint δέχεται και τις δύσκολες αποφάσεις, υπομένει τη φορολογία, συναινεί σε νόμους που δεν τον βολεύουν άμεσα. Αντίστροφα όταν αντιληφθεί ότι ένα «μαγικό κουτί» αποφασίζει για λογαριασμό του χωρίς επεξήγηση και χωρίς δρόμο επιστροφής, η σιωπηλή συναίνεση ραγίζει. Τότε γεννιέται ο κυνισμός, και με τον κυνισμό δεν χτίζεις κοινωνικό συμβόλαιο το γκρεμίζεις.
Η τεχνητή νοημοσύνη είναι ήδη εδώ. Θα παραμείνει. Το ερώτημα δεν είναι αν θα τη χρησιμοποιήσουμε στα υπουργεία, αλλά πως. Αν το «πως» συνδυαστεί μόνο με έννοιες όπως η ταχύτητα και το κόστος, τότε το πρόγραμμα θα κρασάρει. Αν γραφτεί με κανόνες διαφάνειας, ισχυρούς θεσμούς ελέγχου και πρωτίστως σεβασμό στην ανθρώπινη αξιοπρέπεια, ίσως το λογισμικό να γίνει πράγματι δημόσιος “υπηρέτης”.
Ο δρόμος είναι στενός και ανηφορικός, αλλά όπως μας θυμίζουν τα στοιχεία του Wuttke, οι πολίτες ξέρουν να διαβάζουν πίσω από το power point. Ίσως τελικά η καλύτερη τεχνητή νοημοσύνη για τη δημοκρατία να είναι η φυσική νοημοσύνη του πολίτη που επιμένει να ρωτά «Γιατί;» κι αυτό το «Γιατί;» δεν πρέπει να το ακούει μια άψυχη κονσόλα, αλλά ένας άνθρωπος, ο εκλεγμένος, ο υπεύθυνος, ο λογοδοτών. Μόνο τότε το κράτος θα παραμείνει δημοκρατικό λογισμικό αντί για αλγοριθμικό δεσμοφύλακα.
*Mε στοιχεία από το NewScientist.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.
