Ο Πάπας Λέων ΙΔ’ έδωσε στη δημοσιότητα στις 25 Μαΐου την πρώτη του εγκύκλιο, με τίτλο Magnifica Humanitas. Το κείμενο εστιάζει στην προστασία του ανθρώπινου προσώπου στην εποχή της τεχνητής νοημοσύνης, αντιμετωπίζοντας την ΤΝ ως καταλύτη για να φωτιστούν παλαιότερα και πιο διάχυτα προβλήματα. Μεταξύ αυτών, κατονομάζει την ανισότητα, τον πόλεμο, τη διάβρωση των δημοκρατικών θεσμών και τη συγκέντρωση ισχύος σε χέρια που δεν έχουν απαραίτητα ως προτεραιότητα το κοινό καλό. Η τεχνητή νοημοσύνη, υποστηρίζει, ανεβάζει το διακύβευμα και επιταχύνει τάσεις που ήδη υπονομεύουν κοινωνίες και θεσμούς.

Σε όλο το 200σέλιδο κείμενο, το οποίο ο πάπας παρουσίασε μαζί με τον Chris Olah, συνιδρυτή της εταιρείας ΤΝ Anthropic, ο Λέων υποστηρίζει ότι μια τεχνολογία που κατασκευάζεται και κυβερνάται από μια μικρή ελίτ δυσκολεύεται, εκ των πραγμάτων, να υπηρετήσει το δημόσιο συμφέρον. Κατά τον ίδιο, η συγκέντρωση ισχύος οδηγεί συχνά σε αδιαφάνεια και σε αποφυγή ουσιαστικής δημόσιας εποπτείας. Αυτό, σημειώνει, αυξάνει τον κίνδυνο «στρεβλών» μορφών ανάπτυξης, οι οποίες παράγουν νέες εξαρτήσεις, αποκλεισμούς και μηχανισμούς χειραγώγησης.

Πώς η ΤΝ ενισχύει υπάρχουσες ανισορροπίες

Η εγκύκλιος επιμένει ότι, όπως συμβαίνει σε κάθε μεγάλη τεχνολογική μετατόπιση, η ΤΝ τείνει να ισχυροποιεί όσους ήδη διαθέτουν οικονομικούς πόρους, τεχνογνωσία και πρόσβαση σε δεδομένα. Με άλλα λόγια, το πλεονέκτημα συσσωρεύεται εκεί όπου υπάρχει ήδη ισχύς. Στο ίδιο πλαίσιο, καταγράφονται ανησυχίες ότι οι ελίτ μπορούν να αξιοποιήσουν αυτή την υπεροχή για να διαμορφώσουν το πληροφοριακό περιβάλλον και τα πρότυπα κατανάλωσης. Παράλληλα, μπορούν να επηρεάσουν δημοκρατικές διαδικασίες και να κατευθύνουν οικονομικές δυναμικές προς ίδιον όφελος. Η λογική αυτή δεν παρουσιάζεται ως θεωρητική άσκηση. Αντιθέτως, συνδέεται με το πώς λειτουργούν σήμερα αγορές δεδομένων, πλατφόρμες και μεγάλης κλίμακας μοντέλα, όταν η ισχύς τους δεν αντισταθμίζεται από λογοδοσία και αποτελεσματικούς κανόνες.

Ο Πάπας Λέων ζητά η τεχνητή νοημοσύνη να καθοδηγείται από σαφή κριτήρια και ουσιαστική εποπτεία. Τονίζει ότι η εποπτεία δεν πρέπει να είναι μόνο τεχνική ή γραφειοκρατική, αλλά να έχει ρίζες στη συμμετοχή των κοινοτήτων που θα επηρεαστούν από την εφαρμογή των συστημάτων. Η έμφαση στη συμμετοχή λειτουργεί ως αντίβαρο στην ιδέα ότι οι αποφάσεις για κρίσιμες υποδομές μπορούν να λαμβάνονται αποκλειστικά από εταιρείες, επενδυτές ή κλειστούς κύκλους ειδικών. Στο κείμενο, η λογοδοσία παρουσιάζεται ως αναγκαία προϋπόθεση για να μην μετατραπεί η καινοτομία σε εργαλείο επιβολής.

Η «κούρσα εξοπλισμών» στην τεχνητή νοημοσύνη

Ιδιαίτερο βάρος δίνεται στην ανάγκη τερματισμού της κούρσας εξοπλισμών στην ΤΝ. Ο πάπας περιγράφει την ώθηση για ολοένα ισχυρότερους αλγορίθμους και ολοένα μεγαλύτερα σύνολα δεδομένων, τα οποία εταιρείες και κράτη αντιμετωπίζουν ως κλειδί για γεωπολιτική ή εμπορική κυριαρχία. Σε αυτή τη λογική, ο Λέων εισάγει την έννοια του «αφοπλισμού» ως πολιτική και ηθική μετατόπιση. «Ο αφοπλισμός σημαίνει να απονομιμοποιηθεί η υπόθεση ότι η τεχνική ισχύς συνεπάγεται αυτομάτως το δικαίωμα διακυβέρνησης», γράφει, επιμένοντας ότι η ισχύς δεν αρκεί για να νομιμοποιήσει τον έλεγχο. Χρειάζονται σαφή κριτήρια για το πότε και πώς αναπτύσσονται νέα μοντέλα, αποτελεσματική εποπτεία πριν και μετά τη διάθεση των συστημάτων στο κοινό και συμμετοχή των κοινωνιών που επηρεάζονται, όχι μόνο των παραγωγών της τεχνολογίας.

Η εγκύκλιος δημοσιεύεται λίγες ημέρες αφότου, σύμφωνα με αναφορές, ο πρόεδρος Ντόναλντ Τραμπ καθυστέρησε να υπογράψει εκτελεστικό διάταγμα για την ΤΝ. Το διάταγμα φέρεται να προέβλεπε κυβερνητική εποπτεία νέων μοντέλων πριν από τη διάθεσή τους, έπειτα από παρότρυνση του επενδυτή venture capital και πρώην «τσάρου» ΤΝ του Λευκού Οίκου, David Sacks. Χωρίς να μετατρέπεται σε σχόλιο επικαιρότητας, το κείμενο τοποθετείται σε μια πραγματικότητα όπου η ρύθμιση συχνά συγκρούεται με ισχυρά συμφέροντα. Η καθυστέρηση ή αποδυνάμωση κανόνων παρουσιάζεται ως μέρος ενός ευρύτερου προβλήματος λογοδοσίας.

Ιστορικές αναλογίες και σύγχρονα παραδείγματα ισχύος

Ο Λέων συνδέει τις σημερινές εντάσεις με παλαιότερες περιόδους συγκέντρωσης ισχύος, υπενθυμίζοντας τη Rerum Novarum του Πάπα Λέοντα ΙΓ’ (1891), που είχε ασχοληθεί με αντίστοιχα φαινόμενα κατά τη Βιομηχανική Επανάσταση. Η αναφορά λειτουργεί ως υπενθύμιση ότι οι κοινωνίες έχουν ξαναβρεθεί αντιμέτωπες με τεχνολογίες που αναδιανέμουν δύναμη. Ταυτόχρονα, το κείμενο παραπέμπει σε πιο πρόσφατα μοτίβα. Αναφέρεται, για παράδειγμα, στην εξαγορά του Twitter από τον Έλον Μασκ και στη χρήση της πλατφόρμας για να βοηθήσει στην εκλογή του Τραμπ, καθώς και στα εκατοντάδες εκατομμύρια που ρέουν από τεχνολογικές ελίτ σε super PACs με στόχο να μπλοκαριστεί η ρύθμιση της ΤΝ.

Ο πάπας καταλήγει ότι οι εξαιρετικές δυνατότητες της σημερινής ΤΝ καθιστούν τις παλιές εντάσεις πιο επικίνδυνες. Καθώς τα εργαλεία γίνονται πιο ισχυρά και πιο εύχρηστα, ο αντίκτυπος δεν περιορίζεται σε οικονομικούς δείκτες, αλλά αγγίζει την ίδια τη λειτουργία της δημόσιας σφαίρας. Ο Paolo Carozza, καθηγητής στη Νομική Σχολή του Notre Dame, μέλος της Ποντιφικής Ακαδημίας Κοινωνικών Επιστημών και πρόεδρος του Meta Oversight Board, σημείωσε ότι η παραπληροφόρηση και τα deepfakes που παράγονται με ΤΝ έχουν διαβρώσει την ικανότητά μας να διακρίνουμε το αληθινό από το ψευδές. Όπως υπογραμμίζει, αυτό έχει απτές συνέπειες για τη δημοκρατική πολιτική.

Ο ίδιος πρόσθεσε ότι η πρακτική του τεχνολογικού κλάδου να συλλέγει και να χειραγωγεί ανθρώπινα δεδομένα θέτει θεμελιώδεις προκλήσεις για τη γνωστική ελευθερία. Η εγκύκλιος, μέσα από αυτή τη διαπίστωση, επαναφέρει το ερώτημα του ποιος ελέγχει τα εργαλεία που διαμορφώνουν την προσοχή, τη γνώση και τελικά τις επιλογές των πολιτών.

 

 

➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram