Τον Ιούλιο ο Ντόναλντ Τραμπ υπέγραψε μια σειρά από προεδρικά διατάγματα με πιο εντυπωσιακό το «Preventing Woke AI in the Federal Government», το οποίο στοχεύει όπως δήλωσε, να προστατεύσει τους Αμερικανούς πολίτες από τη «μαρξιστική παραφροσύνη» στα μοντέλα τεχνητής νοημοσύνης. Ο πρώην πρόεδρος υποστήριξε ότι τα μεγάλα γλωσσικά μοντέλα (LLMs), όπως το ChatGPT της OpenAI και το Gemini της Google “εγκαθιδρύουν” αριστερές ιδεολογίες και επιχειρούν να χειραγωγήσουν τους χρήστες.
Αφορμή αποτέλεσε το περιστατικό με τη Google στις αρχές του 2024, όταν το εργαλείο παραγωγής εικόνων της παρουσίασε πάπες και Βίκινγκς με μαύρο δέρμα. Παρότι η εταιρεία απολογήθηκε άμεσα, το επεισόδιο ενίσχυσε στους κόλπους της δεξιάς MAGA την πεποίθηση ότι η AI ξαναγράφει την ιστορία για να προωθήσει την ατζέντα της ποικιλομορφίας, της ισότητας και της ένταξης (DEI), καθώς και ζητήματα όπως τα δικαιώματα των τρανς και ο αντιρατσισμός.
Οι επικριτές ωστόσο τονίζουν ότι τα ίδια προβλήματα εμφανίζονται και σε άλλα μοντέλα. Το Grok, το chatbot της πλατφόρμας Χ του Έλον Μασκ άρχισε να αυτοαποκαλείται «MechaHitler» μετά από προσπάθειες να “χαλαρώσουν” τα φίλτρα. Όλα τα LLMs από τα αμερικανικά έως τα ρωσικά και τα κινεζικά ενσωματώνουν τις ιδεολογικές προκαταλήψεις των δημιουργών τους.
Τα περισσότερα μοντέλα γέρνουν προς τη δημοκρατική, δηλαδή αριστερόστροφη, ρητορική. Ορισμένοι ερευνητές μέτρησαν τη γλωσσική ομοιότητα των απαντήσεων με εκείνη Ρεπουμπλικανών και Δημοκρατικών πολιτικών και βρήκαν πως σχεδόν πάντα τα LLMs υιοθετούν τη δεύτερη. Έδειξαν ότι οι Αμερικανοί χρήστες αντιλαμβάνονται τις απαντήσεις τους ως αριστερές, ακόμη και όταν οι ίδιοι είναι Δημοκρατικοί.
Το φαινόμενο δεν περιορίζεται στις ΗΠΑ. Στη Ρωσία τα μοντέλα εμφανίζονται πιο θετικά σε φιλορώσους επικριτές της ΕΕ, ενώ τα κινεζικά LLMs είναι σκληρά επικριτικά απέναντι σε πολιτικούς του Χονγκ Κονγκ και της Ταϊβάν. Η μεροληψία δεν είναι απλώς θεωρητική. Σε πειράματα Αμερικανοί που αλληλεπίδρασαν με “πολιτικά χρωματισμένα” μοντέλα άλλαξαν γνώμη για το που να κατευθύνουν κονδύλια, υιοθετώντας θέσεις αντίθετες από τις αρχικές τους. Αυτός ο πιθανός αντίκτυπος στην κοινή γνώμη καθιστά το ζήτημα ακόμη πιο καίριο για κυβερνήσεις σε όλο τον κόσμο.
Η Κίνα απαιτεί από τα μοντέλα να αντανακλούν τις “βασικές σοσιαλιστικές αξίες”, ενώ η Ευρωπαϊκή Ένωση δίνει έμφαση στην αποφυγή διακρίσεων. Ο Τραμπ από την πλευρά του ζητά “ουδετερότητα” και “αναζήτηση της αλήθειας”, όροι που οι επικριτές θεωρούν “σκέψη MAGA”.
Στην πράξη το διάταγμα φαίνεται να απαιτεί από τα εργαστήρια AI διαφάνεια γύρω από τις ιδεολογικές επιλογές εκπαίδευσης και όχι λογοκρισία. Όμως οι ρίζες της μεροληψίας είναι βαθύτερες: στα αγγλόφωνα δεδομένα εκπαίδευσης που γέρνουν προς τον φιλελευθερισμό, στους νεαρούς που καθορίζουν την “κατάλληλη” απάντηση, αλλά και στους κανόνες που επιβάλλουν οι ίδιοι οι δημιουργοί.
Οι ειδικοί αναγνωρίζουν ότι η πλήρης ουδετερότητα ίσως να είναι αδύνατη, καθώς δεν υπάρχει κοινός ορισμός της. Μία λύση θα ήταν τα μοντέλα να παρουσιάζουν πολλαπλές έγκυρες απόψεις αντί να επιδιώκουν πειστικότητα. Είτε έτσι είτε αλλιώς, η πολιτική διάσταση της τεχνητής νοημοσύνης είναι πλέον αδύνατο να αγνοηθεί. Ο Τραμπ μπορεί να μισεί τη “διαφορετικότητα” στο πλαίσιο της DEI, αλλά όταν πρόκειται για την AI περισσότερη ποικιλία απόψεων ίσως είναι η μόνη ρεαλιστική λύση.
Αν το καλοσκεφτεί κανείς, το πραγματικό πρόβλημα της τεχνητής νοημοσύνης δεν είναι ότι «προωθεί αριστερές ιδεολογίες», αλλά ότι δεν ξέρει να παίζει το παιχνίδι όπως το θέλει ο Τραμπ: να λέει «οι Βίκινγκς ήταν όλοι ξανθοί», «ο Τραμπ είναι ο καλύτερος πρόεδρος όλων των εποχών» και «η πίτσα με ανανά είναι fake news». Γιατί αν οι αλγόριθμοι δεν συμβαδίζουν με το αφήγημα, τότε είναι «μαρξιστική παράνοια».
Στην Αμερική του MAGA, το ότι το ChatGPT μπορεί να σε βοηθήσει να φτιάξεις ένα βιογραφικό, να λύσεις ένα πρόβλημα ή να απαντήσεις σε ένα νομικό ζήτημα περνάει σε δεύτερη μοίρα. Το σημαντικό είναι να μη βγάζει Βίκινγκς με μαύρο δέρμα. Όπως και στην καθημερινότητα του μέσου πολίτη: δεν πειράζει που δεν έχεις πρόσβαση σε φθηνή υγεία, που τα φοιτητικά δάνεια πνίγουν γενιές ολόκληρες, ή που το νοίκι στο Μπρούκλιν κοστίζει όσο ένας μισθός. Το κρίσιμο είναι να ξέρεις ότι το chatbot σου δεν θα σε αποκαλέσει «προνομιούχο λευκό».
Και κάπου εκεί φτάνουμε στην καρδιά της ειρωνείας: ο Τραμπ απαιτεί «ουδετερότητα» και «αναζήτηση της αλήθειας», λες και δεν πέρασε μια τετραετία καταγγέλλοντας ως ψεύτικες όλες τις ειδήσεις που δεν τον βόλευαν. Έτσι, το μόνο που απομένει είναι να φανταστούμε το μέλλον: chatbots που θα χαιρετούν με ένα «Make America Great Again» πριν απαντήσουν στην ερώτησή σου για το πώς φτιάχνεται καρμπονάρα.
*Mε στοιχεία από τον Economist.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.
Τον Ιούλιο ο Ντόναλντ Τραμπ υπέγραψε μια σειρά από προεδρικά διατάγματα με πιο εντυπωσιακό το «Preventing Woke AI in the Federal Government», το οποίο στοχεύει όπως δήλωσε, να προστατεύσει τους Αμερικανούς πολίτες από τη «μαρξιστική παραφροσύνη» στα μοντέλα τεχνητής νοημοσύνης. Ο πρώην πρόεδρος υποστήριξε ότι τα μεγάλα γλωσσικά μοντέλα (LLMs), όπως το ChatGPT της OpenAI και το Gemini της Google “εγκαθιδρύουν” αριστερές ιδεολογίες και επιχειρούν να χειραγωγήσουν τους χρήστες.
Αφορμή αποτέλεσε το περιστατικό με τη Google στις αρχές του 2024, όταν το εργαλείο παραγωγής εικόνων της παρουσίασε πάπες και Βίκινγκς με μαύρο δέρμα. Παρότι η εταιρεία απολογήθηκε άμεσα, το επεισόδιο ενίσχυσε στους κόλπους της δεξιάς MAGA την πεποίθηση ότι η AI ξαναγράφει την ιστορία για να προωθήσει την ατζέντα της ποικιλομορφίας, της ισότητας και της ένταξης (DEI), καθώς και ζητήματα όπως τα δικαιώματα των τρανς και ο αντιρατσισμός.
Οι επικριτές ωστόσο τονίζουν ότι τα ίδια προβλήματα εμφανίζονται και σε άλλα μοντέλα. Το Grok, το chatbot της πλατφόρμας Χ του Έλον Μασκ άρχισε να αυτοαποκαλείται «MechaHitler» μετά από προσπάθειες να “χαλαρώσουν” τα φίλτρα. Όλα τα LLMs από τα αμερικανικά έως τα ρωσικά και τα κινεζικά ενσωματώνουν τις ιδεολογικές προκαταλήψεις των δημιουργών τους.
Τα περισσότερα μοντέλα γέρνουν προς τη δημοκρατική, δηλαδή αριστερόστροφη, ρητορική. Ορισμένοι ερευνητές μέτρησαν τη γλωσσική ομοιότητα των απαντήσεων με εκείνη Ρεπουμπλικανών και Δημοκρατικών πολιτικών και βρήκαν πως σχεδόν πάντα τα LLMs υιοθετούν τη δεύτερη. Έδειξαν ότι οι Αμερικανοί χρήστες αντιλαμβάνονται τις απαντήσεις τους ως αριστερές, ακόμη και όταν οι ίδιοι είναι Δημοκρατικοί.
Το φαινόμενο δεν περιορίζεται στις ΗΠΑ. Στη Ρωσία τα μοντέλα εμφανίζονται πιο θετικά σε φιλορώσους επικριτές της ΕΕ, ενώ τα κινεζικά LLMs είναι σκληρά επικριτικά απέναντι σε πολιτικούς του Χονγκ Κονγκ και της Ταϊβάν. Η μεροληψία δεν είναι απλώς θεωρητική. Σε πειράματα Αμερικανοί που αλληλεπίδρασαν με “πολιτικά χρωματισμένα” μοντέλα άλλαξαν γνώμη για το που να κατευθύνουν κονδύλια, υιοθετώντας θέσεις αντίθετες από τις αρχικές τους. Αυτός ο πιθανός αντίκτυπος στην κοινή γνώμη καθιστά το ζήτημα ακόμη πιο καίριο για κυβερνήσεις σε όλο τον κόσμο.
Η Κίνα απαιτεί από τα μοντέλα να αντανακλούν τις “βασικές σοσιαλιστικές αξίες”, ενώ η Ευρωπαϊκή Ένωση δίνει έμφαση στην αποφυγή διακρίσεων. Ο Τραμπ από την πλευρά του ζητά “ουδετερότητα” και “αναζήτηση της αλήθειας”, όροι που οι επικριτές θεωρούν “σκέψη MAGA”.
Στην πράξη το διάταγμα φαίνεται να απαιτεί από τα εργαστήρια AI διαφάνεια γύρω από τις ιδεολογικές επιλογές εκπαίδευσης και όχι λογοκρισία. Όμως οι ρίζες της μεροληψίας είναι βαθύτερες: στα αγγλόφωνα δεδομένα εκπαίδευσης που γέρνουν προς τον φιλελευθερισμό, στους νεαρούς που καθορίζουν την “κατάλληλη” απάντηση, αλλά και στους κανόνες που επιβάλλουν οι ίδιοι οι δημιουργοί.
Οι ειδικοί αναγνωρίζουν ότι η πλήρης ουδετερότητα ίσως να είναι αδύνατη, καθώς δεν υπάρχει κοινός ορισμός της. Μία λύση θα ήταν τα μοντέλα να παρουσιάζουν πολλαπλές έγκυρες απόψεις αντί να επιδιώκουν πειστικότητα. Είτε έτσι είτε αλλιώς, η πολιτική διάσταση της τεχνητής νοημοσύνης είναι πλέον αδύνατο να αγνοηθεί. Ο Τραμπ μπορεί να μισεί τη “διαφορετικότητα” στο πλαίσιο της DEI, αλλά όταν πρόκειται για την AI περισσότερη ποικιλία απόψεων ίσως είναι η μόνη ρεαλιστική λύση.
Αν το καλοσκεφτεί κανείς, το πραγματικό πρόβλημα της τεχνητής νοημοσύνης δεν είναι ότι «προωθεί αριστερές ιδεολογίες», αλλά ότι δεν ξέρει να παίζει το παιχνίδι όπως το θέλει ο Τραμπ: να λέει «οι Βίκινγκς ήταν όλοι ξανθοί», «ο Τραμπ είναι ο καλύτερος πρόεδρος όλων των εποχών» και «η πίτσα με ανανά είναι fake news». Γιατί αν οι αλγόριθμοι δεν συμβαδίζουν με το αφήγημα, τότε είναι «μαρξιστική παράνοια».
Στην Αμερική του MAGA, το ότι το ChatGPT μπορεί να σε βοηθήσει να φτιάξεις ένα βιογραφικό, να λύσεις ένα πρόβλημα ή να απαντήσεις σε ένα νομικό ζήτημα περνάει σε δεύτερη μοίρα. Το σημαντικό είναι να μη βγάζει Βίκινγκς με μαύρο δέρμα. Όπως και στην καθημερινότητα του μέσου πολίτη: δεν πειράζει που δεν έχεις πρόσβαση σε φθηνή υγεία, που τα φοιτητικά δάνεια πνίγουν γενιές ολόκληρες, ή που το νοίκι στο Μπρούκλιν κοστίζει όσο ένας μισθός. Το κρίσιμο είναι να ξέρεις ότι το chatbot σου δεν θα σε αποκαλέσει «προνομιούχο λευκό».
Και κάπου εκεί φτάνουμε στην καρδιά της ειρωνείας: ο Τραμπ απαιτεί «ουδετερότητα» και «αναζήτηση της αλήθειας», λες και δεν πέρασε μια τετραετία καταγγέλλοντας ως ψεύτικες όλες τις ειδήσεις που δεν τον βόλευαν. Έτσι, το μόνο που απομένει είναι να φανταστούμε το μέλλον: chatbots που θα χαιρετούν με ένα «Make America Great Again» πριν απαντήσουν στην ερώτησή σου για το πώς φτιάχνεται καρμπονάρα.
*Mε στοιχεία από τον Economist.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.
