Υπάρχουν μερικά εξαιρετικά νέα για τις ολοκληρωτικές δικτατορίες του μέλλοντος! Ένας ερευνητής του Πανεπιστημίου του Στάνφορντ ισχυρίζεται ότι ανέπτυξε ένα εργαλείο τεχνητής νοημοσύνης που μπορεί να αποκαλύψει τις πιο ιδιωτικές πτυχές της ταυτότητάς σας χρησιμοποιώντας μόνο μια εικόνα του προσώπου σας. Σύμφωνα με τον ψυχολόγο Michal Kosinski, τα μοντέλα μηχανικής μάθησης που χρησιμοποιεί μπορούν να προβλέψουν με ακρίβεια χαρακτηριστικά όπως οι σεξουαλικές προτιμήσεις, οι πολιτικές πεποιθήσεις και το επίπεδο ευφυΐας βάσει της εμφάνισης ενός ατόμου.

Ακούγεται τρομακτικό; Θα έπρεπε, λέει ο Kosinski, ο οποίος προειδοποιεί για «σοβαρές απειλές προστασίας της ιδιωτικής ζωής» που σχετίζονται με την τεχνολογία αυτή σε πρόσφατη συνέντευξή του στο Business Insider, ειδικά όταν αυτή συνδυάζεται με την ήδη διαδεδομένη τεχνολογία αναγνώρισης προσώπου που λειτουργεί σε όλο τον κόσμο. Παρ’ όλα αυτά, ομάδες όπως η GLAAD και η Human Rights Campaign έχουν καταγγείλει στο παρελθόν το έργο του ότι απειλεί την ελευθερία περιθωριοποιημένων ομάδων αποκαλύπτοντας τα μυστικά τους.

Ο ίδιος ο ερευνητής έχει μια περίπλοκη σχέση με την τεχνολογία. Το έργο του για την αποκάλυψη υποτιθέμενων κρυφών συνδέσεων μεταξύ των χαρακτηριστικών του προσώπου των ανθρώπων και των νοητικών χαρακτηριστικών και συναισθημάτων τους θα πρέπει να χρησιμεύσει ως προειδοποίηση για τους φορείς χάραξης πολιτικής, προτείνει, και να ενημερώσει τη μελλοντική διακυβέρνηση των τεχνολογιών τεχνητής νοημοσύνης. Ωστόσο, εξακολουθεί να το κάνει, τροφοδοτώντας τα μοντέλα μηχανικής μάθησης με δεκάδες χιλιάδες εικόνες από τα μέσα κοινωνικής δικτύωσης και τους ιστότοπους γνωριμιών.

Παρακάτω συγκεντρώσαμε όλα όσα πρέπει να γνωρίζετε για την τρομακτική αυτή τεχνολογία.

Τι ισχυρίζεται η νέα έρευνα;

Ο Kosinski έχει δείξει στο παρελθόν πώς τα likes κάποιου στο Facebook μπορούν να χρησιμοποιηθούν για να προβλέψουν το θρήσκευμα, τις πολιτικές απόψεις και τις σεξουαλικές του προτιμήσεις με τρομακτική ακρίβεια, ακόμη και όταν δεν υπάρχουν προφανείς συνδέσεις μεταξύ του αντικειμένου των likes και των χαρακτηριστικών της προσωπικότητας. Σε αυτή τη μελέτη του 2013, οι «καταιγίδες» και οι « σγουρές τηγανιτές πατάτες» ήταν μερικοί από τους καλύτερους προγνωστικούς δείκτες υψηλής νοημοσύνης, ενώ το «να είσαι σε σύγχυση μετά το ξύπνημα από ένα μεσημεριανό υπνάκο» ήταν ένα ισχυρό σημάδι ανδρικής ετεροφυλοφιλίας.

Η πιο πρόσφατη έρευνά του όμως πηγαίνει ένα βήμα παραπέρα, προσδιορίζοντας τις προτιμήσεις των ανθρώπων μόνο από μια εικόνα του προσώπου τους. Σε μια μελέτη, απέδειξε ότι ένα μοντέλο τεχνητής νοημοσύνης είναι σε θέση να διακρίνει μεταξύ γκέι και στρέιτ ανδρών με ακρίβεια 91%. Οι άνθρωποι, αντίθετα, κατάφεραν να διακρίνουν τη διαφορά μόνο στο 61% των περιπτώσεων.

Πιο πρόσφατα, ο Kosinski δημοσίευσε μια μελέτη σχετικά με τους συσχετισμούς μεταξύ των χαρακτηριστικών του προσώπου και των πολιτικών πεποιθήσεων. Παρουσιάζοντας εκατοντάδες χιλιάδες εικόνες, ένα μοντέλο αναγνώρισης προσώπου μπόρεσε να αποφασίσει σωστά αν ένα πρόσωπο ανήκε σε φιλελεύθερο ή συντηρητικό ψηφοφόρο σε ποσοστό 72% των περιπτώσεων. Η ανθρώπινη ακρίβεια ήταν σημαντικά χαμηλότερη, στο 55%. Ακόμη και ένα ερωτηματολόγιο 100 ερωτήσεων για την προσωπικότητα μπορούσε να επιτύχει μόνο ένα ευτελές 66%.

Πώς λειτουργεί η ανάγνωση του μυαλού;

Η έρευνα περιλαμβάνει ουσιαστικά την απόσπαση εκατοντάδων χιλιάδων – ή μερικές φορές εκατομμυρίων – εικόνων προσώπου από το διαδίκτυο και την τροφοδότησή τους σε μοντέλα μηχανικής μάθησης. Μόλις εκπαιδευτούν σε αρκετά σημεία δεδομένων, αυτά τα μοντέλα μπορούν να κάνουν εξαιρετικά ακριβείς προβλέψεις για εικόνες που δεν έχουν δει ποτέ πριν.

Ο τρόπος με τον οποίο τα μοντέλα μεταφράζουν όλα αυτά τα φαινομενικά τυχαία σημεία δεδομένων σε σημαντικές εικασίες δεν είναι πολύ σαφής, ακόμη και για τους συγγραφείς των μελετών. Το θέμα είναι ότι αυτό δεν έχει σημασία. Το σύστημα φαίνεται να λειτουργεί, και αυτό είναι το σημαντικό… και δυνητικά επικίνδυνο.

Γιατί είναι τόσο επικίνδυνο;

Πέρυσι, οι επιστήμονες ξεκλείδωσαν την ικανότητα να διαβάζουν το μυαλό των ανθρώπων χρησιμοποιώντας τεχνητή νοημοσύνη, κάτι που ακούστηκε αρκετά τρομακτικό. Ευτυχώς, αυτό δεν σήμαινε ότι ο οποιοσδήποτε μπορούσε να διεισδύσει στις σκέψεις σας καθώς περπατάτε στο δρόμο – η ανάγνωση του μυαλού ενός υποκειμένου δοκιμής απαιτούσε να το βάλουν σε έναν σαρωτή fMRI για ώρες ολόκληρες, και ακόμη και τότε το αποτέλεσμα δεν ήταν τέλειο.

Το να μπορεί η τεχνητή νοημοσύνη να διαβάζει τις εσωτερικές σκέψεις και τα συναισθήματα των ανθρώπων μέσω του προσώπου και των εκφράσεών τους είναι ένα εντελώς διαφορετικό παιχνίδι. Αν αληθεύει, είναι εύκολο να φανταστεί κανείς ένα καταπιεστικό καθεστώς να χρησιμοποιεί τεχνολογία «πανταχού παρούσας» παρακολούθησης για να ρίχνει μια ματιά στο μυαλό των υπηκόων του και να εντοπίζει τυχόν αντιφρονούντες. Και οι κίνδυνοι για τα LGBTQ+ άτομα είναι αυτονόητοι, αν μια μισαλλόδοξη κυβέρνηση πάρει στα χέρια της ένα «AI-powered gaydar».

Η τεχνολογία παρακολούθησης είναι ήδη παντού, όπως έγραψε ο Kosinski πριν από τρία χρόνια. «Δεδομένης της ευρείας χρήσης της αναγνώρισης προσώπου», προσθέτει στη μελέτη του 2021, «τα ευρήματά μας έχουν σημαντικές συνέπειες για την προστασία της ιδιωτικής ζωής και των ατομικών ελευθεριών».

Εικονογράφηση: @artificial_vandalism / Olafaq

Εντάξει, αλλά όντως αποτελεί απειλή;

Πέρα από τους ανθρώπους που δεν πιστεύουν ότι θα έπρεπε καν να υπάρχει εξ αρχής, υπάρχουν πολλές αμφιβολίες για την έρευνα του Kosinski. Πολλοί ακαδημαϊκοί, για παράδειγμα, έχουν προτείνει ότι οι αλγόριθμοι μπορεί να μην βασίζουν τις προβλέψεις τους τόσο στη δομή του προσώπου ενός ατόμου όσο στην αυτοπαρουσίασή του – πράγματα όπως το κούρεμα, το μακιγιάζ και οι εκφράσεις του προσώπου. Ο Kosinski επιχειρεί να αντιμετωπίσει αυτή την κριτική σε μια εργασία που δημοσιεύτηκε το 2024, όπου κατέγραψε 591 «προσεκτικά τυποποιημένες εικόνες προσώπου» σε εργαστηριακές συνθήκες. Στη μελέτη, η ακρίβεια των εκτιμήσεων της μηχανής ήταν πολύ πιο κοντά σε εκείνη των ανθρώπων.

Ωστόσο, εξακολουθούσε να υπάρχει σημαντική συσχέτιση μεταξύ του σχήματος του προσώπου των ανθρώπων και της πολιτικής τους (και πάλι, είναι δύσκολο να πει κανείς πώς ακριβώς συμβαίνει αυτή η συσχέτιση). Για τον Kosinski, αυτό σημαίνει ότι «οι ευρέως διαδεδομένες τεχνολογίες βιομετρικής παρακολούθησης είναι πιο απειλητικές από ό,τι πιστεύαμε προηγουμένως», διότι υποδηλώνει ότι ακόμη και όσοι προσπαθούν να κρύψουν την ταυτότητά τους ή να αναμειχθούν, θα καταγραφούν από την τεχνητή νοημοσύνη.

Το μόνο πράγμα στο οποίο όλοι μπορούν να συμφωνήσουν είναι ότι πρέπει να γίνουν περισσότερες έρευνες για να προσδιοριστούν οι πραγματικοί κίνδυνοι από τις ικανότητες της Τεχνητής Νοημοσύνης στην ανάλυση του προσώπου – και αν οδεύουμε προς μια δυστοπία με δυνατότητες φυσιογνωμικής ανάλυσης. Για το λόγο αυτό, μάλλον δεν θα πρέπει να φοβόμαστε έρευνες όπως αυτή του Kosinski, ακόμη και αν δεν μας αρέσουν τα αποτελέσματα.

 

➸ Διαβάστε επίσης: Η απειλή της τεχνητής νοημοσύνης καθοδηγεί και μεταμορφώνει την καταναλωτική συμπεριφορά