Μια μέρα του Νοεμβρίου μια product strategist συνδέθηκε στον λογαριασμό της στο LinkedIn και άλλαξε το φύλο της σε “άνδρας”. Άλλαξε επίσης το όνομά της σε Μάικλ. Δεν επρόκειτο για προσωπική αναζήτηση ταυτότητας, αλλά για συμμετοχή σε ένα άτυπο πείραμα με το hashtag #WearthePants, στο οποίο γυναίκες δοκίμαζαν την υπόθεση ότι ο νέος αλγόριθμος του LinkedIn ευνοεί τους άνδρες. 

Τους προηγούμενους μήνες αρκετοί έντονοι χρήστες της πλατφόρμας είχαν παρατηρήσει πτώση στην απήχηση και στις προβολές των αναρτήσεών τους. Αυτό συνέπεσε χρονικά με δήλωση του αντιπροέδρου μηχανικής της LinkedIn, Τιμ Τζούρκα, ο οποίος τον Αύγουστο ανέφερε ότι η εταιρεία ενσωμάτωσε μεγάλα γλωσσικά μοντέλα (LLMs) για την ανάδειξη περιεχομένου χρήσιμου για τους χρήστες. 

Η Μισέλ υποψιάστηκε ότι κάτι δεν πήγαινε καλά, επειδή διαθέτει πάνω από 10.000 ακολούθους και γράφει αναρτήσεις για λογαριασμό του συζύγου της, ο οποίος έχει περίπου 2.000. Παρ’ όλα αυτά οι αναρτήσεις τους λάμβαναν παρόμοιο αριθμό προβολών, παρά τη μεγάλη διαφορά στο κοινό. “Η μόνη ουσιαστική μεταβλητή ήταν το φύλο”, είπε. 

Η ιδρύτρια Μάριλιν Τζόινερ άλλαξε επίσης το φύλο στο προφίλ της. Δημοσιεύει συστηματικά εδώ και δύο χρόνια και είχε παρατηρήσει ότι τους τελευταίους μήνες η ορατότητα των αναρτήσεών της είχε μειωθεί. «Άλλαξα το φύλο μου από γυναίκα σε άνδρα και οι προβολές μου αυξήθηκαν κατά 238% μέσα σε μία ημέρα», δήλωσε. 

Παρόμοια αποτελέσματα ανέφεραν και άλλες γυναίκες, όπως οι Μέγκαν Κόρνις, Ρόζι Τέιλορ, Τζέσικα Ντόιλ Μέκες, Άμπι Νάινταμ, Φελίσιτι Μένζις και Λούσι Φέργκιουσον. Το LinkedIn απάντησε ότι «ο αλγόριθμος και τα συστήματα τεχνητής νοημοσύνης δεν χρησιμοποιούν δημογραφικά στοιχεία, όπως ηλικία, φυλή ή φύλο, ως σήμα για τον καθορισμό της ορατότητας περιεχομένου ή προφίλ στο Feed» και ότι «μια σύγκριση στιγμιότυπων του feed δεν αποδεικνύει αυτομάτως άδικη μεταχείριση ή μεροληψία». 

Οι ειδικοί στους κοινωνικούς αλγορίθμους συμφωνούν ότι ο ωμός σεξισμός πιθανότατα δεν αποτελεί την αιτία, ωστόσο η έμμεση μεροληψία παραμένει πιθανή. Όπως εξηγεί η Μπράντις Μάρσαλ, σύμβουλος δεοντολογίας δεδομένων, “οι πλατφόρμες είναι μια περίπλοκη συμφωνία αλγορίθμων που τραβούν μαθηματικούς και κοινωνικούς μοχλούς ταυτόχρονα και διαρκώς”. Η αλλαγή ονόματος και φωτογραφίας είναι απλώς ένας από αυτούς τους μοχλούς. 

Το πείραμα #WearthePants ξεκίνησε από τις επιχειρηματίες Σίντι Γκάλοπ και Τζέιν Έβανς, οι οποίες ζήτησαν από δύο άνδρες να δημοσιεύσουν το ίδιο ακριβώς περιεχόμενο με εκείνες. Παρότι οι ίδιες είχαν συνολικά πάνω από 150.000 ακολούθους και οι άνδρες περίπου 9.400, μια ανάρτηση της Γκάλοπ έφτασε σε 801 άτομα, ενώ η ίδια ανάρτηση από άνδρα έφτασε σε 10.408 περισσότερους από τους συνολικούς του ακολούθους. 

Το LinkedIn υποστηρίζει ότι τα αποτελέσματα αυτά δεν αποδεικνύουν μεροληψία λόγω φύλου. Η εταιρεία δηλώνει ότι δοκιμάζει εκατομμύρια αναρτήσεις για να συνδέει τους χρήστες με ευκαιρίες και ότι τα δημογραφικά δεδομένα χρησιμοποιούνται μόνο για ελέγχους ισότητας, όχι για την κατάταξη του περιεχομένου. 

Τα μεγάλα γλωσσικά μοντέλα συχνά ενσωματώνουν έναν λευκό, ανδρικό, δυτικοκεντρικό τρόπο σκέψης, επειδή έχουν εκπαιδευτεί σε ανθρώπινο περιεχόμενο και από ανθρώπους με αντίστοιχες προκαταλήψεις. Ακόμη κι αν δεν υπάρχει ρητή χρήση φύλου, το ύφος γραφής μπορεί να λειτουργεί ως υποκατάστατο. Η Μισέλ παρατήρησε ότι όταν έγραφε ως “Μάικλ” με πιο άμεσο και λιτό τόνο, οι προβολές αυξήθηκαν κατά 200%. 

Άλλοι παράγοντες περιπλέκουν ακόμη περισσότερο την εικόνα: η συμμετοχή σε viral τάσεις, η επανενεργοποίηση ανενεργών λογαριασμών, το ιστορικό αλληλεπίδρασης του κοινού. Σύμφωνα με το LinkedIn τα συστήματα λαμβάνουν υπόψη εκατοντάδες σήματα, από το προφίλ και το δίκτυο του χρήστη έως τη συμπεριφορά του κοινού. 

Το αποτέλεσμα είναι μια γενικευμένη σύγχυση. Κάποιοι βλέπουν πτώση, άλλοι αύξηση. Το μόνο κοινό σημείο είναι η αίσθηση αδιαφάνειας. «Θέλω διαφάνεια», λέει η Μισέλ. Όμως σε έναν κόσμο όπου οι αλγόριθμοι αποτελούν εταιρικά μυστικά και η πλήρης διαφάνεια θα επέτρεπε την εκμετάλλευσή τους, αυτό το αίτημα μοιάζει πιθανότατα καταδικασμένο να μείνει ανεκπλήρωτο. 

*Με στοιχεία από το Tech Crunch 

 

 

➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.