Η ανθρωπότητα βιώνει μία μοναδική τεχνολογική επανάσταση. Η στροφή προς τον αυτοματισμό και την τεχνολογική εξάρτηση έχει αλλάξει δραματικά τον τρόπο συλλογής πληροφοριών, τον τρόπο επικοινωνίας, ακόμη και τον τρόπο εργασίας μας. Για δισεκατομμύρια ανθρώπους, ο ψηφιακός μετασχηματισμός έχει φέρει τεράστια οφέλη και ευκολίες. Η τεχνολογία αποτελεί κινητήριο δύναμη της ανθρώπινης ιστορίας και εξέλιξης ενώ από μόνη της είναι πολιτικά ουδέτερη. Το πώς όμως διαμορφώνει τις κοινωνίες και τα πολιτικά συστήματα εξαρτάται από την εφαρμογή και τη ρύθμισή της από τις εταιρείες και τις κυβερνήσεις.

Μία μεγάλη πρόκληση που αντιμετωπίζει η κοινωνία τα τελευταία χρόνια είναι η χρήση deepfakes. Πρόκειται για μία χρήση της τεχνητής νοημοσύνης που παράγει πλαστά και υπερρεαλιστικά βίντεο, φωτογραφίες ή ηχητικά αρχεία. Η εξελιγμένη τεχνητή νοημοσύνη συνθέτει το αρχικό υλικό – φωτογραφίες, βίντεο, φωνές – σε νέες, παραποιημένες εκδοχές που φαίνονται αληθινές. Με εκθετικές βελτιώσεις στην ποιότητα, τα deepfakes προσομοιώνουν πλέον εκφράσεις και συμπεριφορές με ανατριχιαστική ακρίβεια, καθιστώντας σχεδόν αδύνατη την επαλήθευση της αυθεντικότητας, δίνοντας ζωή σε ψευδή γεγονότα.

Συνήθως, τα deepfakes  χρησιμοποιούνται για τη σκόπιμη διάδοση ψευδών πληροφοριών και μπορεί να έχουν μια κακόβουλη πρόθεση πίσω από τη χρήση τους.

Μπορούν να σχεδιαστούν για να παρενοχλούν, να εκφοβίζουν, να υποτιμούν και να υπονομεύουν τους ανθρώπους και μπορεί να τροφοδοτήσει άλλες ανήθικες ενέργειες, όπως η δημιουργία πορνό εκδίκησης. Πολλές χώρες γίνονται μάρτυρες της χρήσης της παραπληροφόρησης ως εργαλείου χειραγώγησης των αντιλήψεων του κοινού σε θέματα δημόσιας πολιτικής, προώθησης μιας ατζέντας ή πόλωσης των πολιτών. Αν δούμε μερικά από τα μεγαλύτερα ζητήματα και εκστρατείες των τελευταίων ετών -εκλογές σε εθνικό επίπεδο, ψήφος για το Brexit, ακόμη και συζήτηση γύρω από τους περιορισμούς του κορωνοϊού- υπάρχει ένα σταθερό στοιχείο που μοιράζονται όλα: η παρουσία της πολιτικής προπαγάνδας. Καθοδηγούμενη από το μεταβαλλόμενο τοπίο των μέσων ενημέρωσης και την άνοδο των μέσων κοινωνικής δικτύωσης, η πολιτική προπαγάνδα δεν χρησιμοποιήθηκε ποτέ περισσότερο.

Σε πρόσφατες κρίσεις, όπως η σύγκρουση Ισραήλ/Χαμάς, η γνωστή τεχνική της εκ νέου κοινής χρήσης παλιών εικόνων, με λεζάντα με παραπλανητικό τρόπο για να προκληθεί η εντύπωση ότι σχετίζονται με τρέχοντα γεγονότα, ήταν πιο κοινή σε σύγκριση με τις εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη. Πέρυσι τέτοια εποχή, μια deepfake εικόνα που παρουσίαζε να έχει γίνει έκρηξη στο Πεντάγωνο, έκανε το γύρο του διαδικτύου και προκάλεσε τρομακτική βουτιά στον Dow Jones.  Ενώ μία εικόνα με τρακτέρ και μπάλες άχυρου μπροστά από τον Πύργο του Άιφελ στο Παρίσι είχε ως στόχο να μεγαλοποιήσει τη διάσταση των διαμαρτυριών των αγροτών.

Αντιλαμβανόμαστε ότι αυτό το υλικό μπορεί να εξαπλωθεί γρήγορα στα μέσα κοινωνικής δικτύωσης, προσεγγίζοντας μεγάλο κομμάτι του πληθυσμού προτού καταρριφθεί, ενσωματώνοντας έτσι ψευδείς αφηγήσεις στη συνείδηση ​​του κοινού. Αυτή η τεχνολογία έχει δημιουργήσει σύγχυση, εξάπλωση παραπληροφόρησης και αποτελεί επίσης απειλή για το απόρρητο και την ασφάλεια ενέχοντας μάλιστα σημαντικούς κινδύνους για την ακεραιότητα των εκλογών και των δημοκρατικών διαδικασιών.

Το 2024 είναι ένα έτος εκλογών καθώς σε τουλάχιστον 64 χώρες οι πολίτες έχουν κληθεί ή ετοιμάζονται να πάνε στις κάλπες ενώ σε μία εβδομάδα, πολίτες από 27 διαφορετικά κράτη μέλη καθώς θα κληθούν να ψηφίσουν τα μέλη του επόμενου Ευρωπαϊκού Κοινοβουλίου. Όλες αυτές οι εκλογές γίνονται σε μια εποχή που η παγκόσμια ασφάλεια και τα ίδια τα θεμέλια της δημοκρατίας βρίσκονται υπό σημαντική πίεση από την άνοδο του λαϊκισμού, των ακροδεξιών ιδεολογιών και των φασιστικών κινημάτων. Όλα αυτά, σε συνδυασμό με τις αυξανόμενες δυνατότητες της τεχνητης νοημοσύνης που σε πολλές περιπτώσεις μπορεί να χρησιμοποιηθεί με επικίνδυνο τρόπο, υπάρχει έντονη ανησυχία ότι οι ψηφιακές απειλές και η εξάπλωση της παραπληροφόρησης θα επηρεάσουν την ακεραιότητα πολλών εκλογικών διαδικασιών, ακόμα και των Ευρωεκλογών και άρα θα εγείρουν σοβαρά προβλήματα σε πολλές κοινωνίες.

Τα Deepfakes μπορούν να χρησιμοποιηθούν για τη δημιουργία ψευδών δηλώσεων ή ενεργειών που αποδίδονται σε πολιτικούς υποψηφίους, επηρεάζοντας ενδεχομένως την κοινή γνώμη με βάση κατασκευασμένες πληροφορίες. Για παράδειγμα πολιτικοί αντίπαλοι μπορούν να χρησιμοποιήσουν deepfakes για να χειραγωγήσουν τα εκλογικά αποτελέσματα δημοσιεύοντας επιζήμιες ψευδείς πληροφορίες σχετικά με υποψηφίους κοντά στις ημερομηνίες εκλογών, αφήνοντας λίγο χρόνο για επαλήθευση και απάντηση.

Οι πρόσφατες εκλογές στην Ινδονησία έφεραν στη δημοσιότητα ένα deepfake βίντεο που «ανασταίνει» τον Πρόεδρο Σουχάρτο. Φαινομενικά, ήταν ένας τρόπος για να ενθαρρύνει τον κόσμο να ψηφίσει, αλλά κατηγορήθηκε ότι ήταν προπαγάνδα επειδή παρήχθη από το πολιτικό κόμμα του οποίου ηγήθηκε.

Στη Μεγάλη Βρετανία, περισσότερες από 100 διαφημίσεις με ένα βίντεο deepfake που παρουσίαζε τον Rishi Sunak πληρώθηκαν για να προωθηθούν στο Facebook μόνο τον μήνα Ιανουάριο. Οι διαφημίσεις μπορεί να προβλήθηκαν έως και από 400.000 άτομα – παρά το γεγονός ότι φαίνεται να παραβαίνουν πολλές από τις πολιτικές του Facebook – και σηματοδοτούν την πρώτη φορά που η εικόνα του πρωθυπουργού παραποιείται με συστηματικό τρόπο μαζικά. Επιπλέον, πλαστά πλάνα μιας παρουσιάστριας ειδήσεων του BBC, της Σάρα Κάμπελ, την δείχνουν να διαβάζει έκτακτες ειδήσεις που ψευδώς ισχυρίζονται ότι έχει ξεσπάσει σκάνδαλο γύρω από τον Sunak που κερδίζει κρυφά «κολοσσιαία ποσά από ένα έργο που αρχικά προοριζόταν για απλούς πολίτες».

Η επικράτηση των deepfakes μπορεί να οδηγήσει σε γενικό σκεπτικισμό για όλο το περιεχόμενο των μέσων ενημέρωσης, καθιστώντας πιο δύσκολο για το κοινό να διακρίνει μεταξύ πραγματικών και ψεύτικων ειδήσεων. Διαβρώνοντας την εμπιστοσύνη στην αυθεντικότητα των πληροφοριών, τα deepfakes μπορούν να υπονομεύσουν τη θεμελιώδη εμπιστοσύνη που είναι απαραίτητη για μια λειτουργική δημοκρατία.

Υπάρχουν παραδείγματα όπου ξένοι παράγοντες μπορούν να χρησιμοποιήσουν deepfakes για να παρέμβουν στις εκλογές, ως μέρος ευρύτερων στρατηγικών για την αποσταθεροποίηση των πολιτικών συστημάτων άλλων χωρών. Πρόσφατα αποκαλύφθηκε η δράση μίας ομάδας με την κωδική ονομασία «Team Jorge» προσφέρει υπηρεσίες hacking, παραπληροφόρησης και επηρεασμού των εκλογικών διαδικασιών σε πάνω από 30 χώρες. Μέσω του hacking, του σαμποτάζ και της αυτοματοποιημένης παραπληροφόρησης στα μέσα κοινωνικής δικτύωσης φαίνεται να έχει παρέμβει σε πάνω από 30 εκλογές παγκοσμίως εργαλειοποιώντας την παραπληροφόρηση μέσω ενός στρατού χιλιάδων ψεύτικων προφίλ στα μέσα κοινωνικής δικτύωσης. 

Το περιοδικό Wired έχει δημιουργήσει μία λίστα και έναν χάρτη με περιστατικά που ψεύτικα βίντεο, φωτογραφίες ή ηχητικά έχουν χρησιμοποιηθεί σε κάθε προεκλογική εκστρατεία και εκλογική αναμέτρηση σε όλον τον πλανήτη καθ’ όλη τη διάρκεια του 2024. Τα παραδείγματα είναι αμέτρητα. Από απλή χρήση ΤΝ για την μεταφορά ενός μηνύματος, μέχρι την εξάπλωση παραπληροφόρησης μέσα από deepfake βίντεο, είναι εμφανές ότι η απειλή των δημοκρατικών διαδικασιών είναι πιο έντονη από ποτέ.

Στην ελληνική πραγματικότητα υπάρχουν πολλά παραδείγματα τέτοιων deepfake βίντεο και φωτογραφιών που έχουν κυκλοφορήσει στα social media προκαλώντας σύγχυση. Υπάρχουν βίντεο με εκατοντάδες χιλιάδες θεάσεις στο Tik Tok, στα οποία εμφανίζεται ο πρωθυπουργός, Κυριάκος Μητσοτάκης, να μιλάει για μία σειρά από θέματα. Οι χρήστες ακούν τη φωνή του πρωθυπουργού, μόνο που κάποιος άλλος έχει “υπαγορεύσει” όλα όσα ακούγονται. Τα βίντεο για άλλους είναι χιουμοριστικά και για άλλους όχι. Σε κάθε περίπτωση πάντως είναι απολύτως ενδεικτικά για τις δυνατότητες των εφαρμογών αυτών, καθώς η φωνή είναι ακριβώς ίδια με αυτή του πρωθυπουργού.

@deepfakegr7 Rave party 1997 Mitsotakis deepfake. #deepfake #deepfakegr #ai #imadethis #fyp #greekmemes ♬ original sound – DEEPFAKEgr

Σύμφωνα με την ιστοσελίδα ellinika hoaxes ένα βίντεο που  κυκλοφορεί στο Facebook δείχνει τον Κυριάκο Μητσοτάκη να αναφέρει πως άνοιξε μια νέα επενδυτική πλατφόρμα, δήθεν υπό την αιγίδα του ελληνικού κράτους, που αποτελεί “μία μοναδική ευκαιρία για τους Έλληνες πολίτες” και η οποία φέρεται να αγοράζει και πουλάει αυτόματα μετοχές από τις πετρελαϊκές εταιρείες διεθνώς. Έπειτα από αντίστροφη αναζήτηση εικόνας, διαπιστώνεται πως το βίντεο προέρχεται από δηλώσεις του Έλληνα πρωθυπουργού στις 31 Δεκεμβρίου του 2023, κατά τις οποίες, προφανώς, στην πραγματικότητα δεν αναφέρθηκε σε κανένα σημείο σε τέτοιου είδους “επενδυτική ευκαιρία”.

Σε ένα άλλο βίντεο που έχει αναρτηθεί από σελίδα με το όνομα “Γενναιοδωρία”, η παρουσιάστρια του δελτίου ειδήσεων του OPEN TV, Λίνα Δρούγκα, φέρεται να αναφέρει ότι οι εφοπλιστές Βαγγέλης Μαρινάκης, Ιβάν Σαββίδης και Βαρδής Βαρδινογιάννης προχώρησαν στη δημιουργία μιας επενδυτικής πλατφόρμας. Μάλιστα, εμφανίζεται υπέρτιτλος που αναφέρει: “Η συνέντευξη που συγκλόνισε όλη την Ελλάδα! Ξεκινήστε με 350 ευρώ και κερδίστε 6.700 ευρώ κάθε εβδομάδα! Μηδενικός φόρος”.

Σε κάποιες περιπτώσεις, είναι ευκολο κανείς να καταλάβει ότι η εικόνα δεν είναι πραγματική. Σε άλλες, θα πρέπει κάποιος ειδικός να αναλύσει την εικόνα ή το βίντεο για να αποφανθεί για την γνησιότητά του. Καθώς όμως η τεχνολογία deepfake βελτιώνεται, ο εντοπισμός αυτών των πλαστών βίντεο γίνεται όλο και πιο δύσκολος, απαιτώντας προηγμένες και συνεχώς ενημερωμένες αντι-τεχνολογίες. Το 2018,  ερευνητές στις Ηνωμένες Πολιτείες απέδειξαν ότι τα βαθιά ψεύτικα πρόσωπα δεν ανοιγοκλείνουν τα μάτια τους όπως οι άνθρωποι, κάτι που θεωρήθηκε ένας εξαιρετικός τρόπος για να ανιχνεύσουμε εάν οι εικόνες και τα βίντεο ήταν ψεύτικες ή όχι.

Ωστόσο, μόλις δημοσιεύτηκε η μελέτη, οι δημιουργοί deepfake άρχισαν να το διορθώνουν, καθιστώντας ακόμη πιο δύσκολο τον εντοπισμό τους. Συχνά, η έρευνα που έχει σχεδιαστεί για να βοηθήσει στην ανίχνευση deepfakes καταλήγει απλώς να βοηθά στη βελτίωση της τεχνολογίας deepfake. Αυτό αποτελεί μείζονα πρόκληση όταν πρόκειται για την αντιμετώπιση των κινδύνων που η τεχνολογία μπορεί να ενέχει για τους δημοκρατικούς θεσμούς και τα ατομικά μας δικαιώματα.