Το 2024 είναι ένα έτος εκλογών καθώς σε τουλάχιστον 64 χώρες οι πολίτες έχουν κληθεί ή ετοιμάζονται να πάνε στις κάλπες. Σε παρόμοιο κλίμα θα μπουν και στις αρχές Ιουνίου, οι Ευρωπαίοι πολίτες από 27 διαφορετικά κράτη μέλη καθώς θα κληθούν να ψηφίσουν τα μέλη του επόμενου Ευρωπαϊκού Κοινοβουλίου. Όλες αυτές οι εκλογές γίνονται σε μια εποχή που η παγκόσμια ασφάλεια και τα ίδια τα θεμέλια της δημοκρατίας βρίσκονται υπό σημαντική πίεση από την άνοδο του λαϊκισμού, των ακροδεξιών ιδεολογιών και των φασιστικών κινημάτων. Εν τω μεταξύ, η εμπιστοσύνη στους κυρίαρχους θεσμούς όπως οι πολιτικοί και τα μέσα ενημέρωσης παραμένει εξαιρετικά χαμηλή.
Σε μία εποχή που οι αυξανόμενες δυνατότητες της τεχνητης νοημοσύνης χρησιμοποιούνται σε πολλές περιπτώσεις με επικίνδυνο τρόπο, υπάρχει έντονη ανησυχία ότι οι ψηφιακές απειλές και η εξάπλωση της παραπληροφόρησης θα επηρεάσουν την ακεραιότητα ακόμα και των Ευρωεκλογών.
Η παραπληροφόρηση έχει συγκριθεί με μια «ατομική βόμβα στο πληροφοριακό μας οικοσύστημα», ένα πρόβλημα τόσο ύπουλο που επιτρέπει στις θεωρίες μίσους, θυμού και συνωμοσίας να εξαπλωθούν ταχύτερα από την αλήθεια. Σύμφωνα με τα λόγια της δημοσιογράφου και βραβευμένης με Νόμπελ Ειρήνης Μαρία Ρέσσα, κάνει τη δημοκρατία «όνειρο».
Αν δούμε μερικά από τα μεγαλύτερα ζητήματα και εκστρατείες των τελευταίων ετών -εκλογές σε εθνικό επίπεδο, ψήφος για το Brexit, ακόμη και συζήτηση γύρω από τους περιορισμούς του κορωνοϊού- υπάρχει ένα σταθερό στοιχείο που μοιράζονται όλα: η παρουσία της πολιτικής προπαγάνδας. Καθοδηγούμενη από το μεταβαλλόμενο τοπίο των μέσων ενημέρωσης και την άνοδο των μέσων κοινωνικής δικτύωσης, η πολιτική προπαγάνδα δεν χρησιμοποιήθηκε ποτέ περισσότερο.
Η διαδικτυακή παραπληροφόρηση είναι ένα πρόβλημα που δεν επηρεάζει απλώς τις εκλογές. Πολλές χώρες γίνονται μάρτυρες της αύξησης της κλίμακας της παραπληροφόρησης ως εργαλείου χειραγώγησης των αντιλήψεων του κοινού σε θέματα δημόσιας πολιτικής, προώθησης μιας ατζέντας ή πόλωσης των πολιτών. Από τον πόλεμο στην Ουκρανία μέχρι τον Covid-19 και τώρα τη σύγκρουση στη Μέση Ανατολή, η παραπληροφόρηση σήμερα διαμορφώνει σημαντικά παγκόσμια γεγονότα.
Deepfake εικόνες και χειραγώγηση κοινού
Μέχρι τώρα, το περιεχόμενο παραπληροφόρησης που δημιουργείται από την τεχνητή νοημοσύνη εξακολουθεί να είναι μια μικρή μειοψηφία της συνολικής εντοπισμένης παραπληροφόρησης στην ΕΕ, σύμφωνα με τις μηνιαίες εκθέσεις του δικτύου ελέγχου γεγονότων EDMO, αλλά πολλα παραδείγματα ψέυτικων εικόνων και βίντεο αποδεικνύουν ότι ο κίνδυνος είναι ορατός και άμεσος.
Τους τελευταίους μήνες, διάφορες εικόνες που δημιουργήθηκαν από TN έχουν διαδοθεί σε διάφορες χώρες για να χειραγωγήσουν το κοινό.
- Μία εικόνα με τρακτέρ και μπάλες άχυρου μπροστά από τον Πύργο του Άιφελ στο Παρίσι είχε ως στόχο να μεγαλοποιήσει τη διάσταση των διαμαρτυριών των τρακτέρ.
An AI-generated image has been shared as French farmers dumping bales of hay near the Eiffel Tower in Paris amid the ongoing farmer protests. Read our fact-check here.https://t.co/0fN1PyI1xD
— Logically Facts (@LogicallyFacts) February 8, 2024
- Σε μία άλλη περίπτωση, η εικόνα μιας λευκής άστεγης μητέρας με παιδιά, που έγινε viral για να προκαλέσει εχθρότητα κατά των μεταναστών στο πλαίσιο της στεγαστικής κρίσης στην Ιρλανδία.
- Μια εικόνα του Ντόναλντ Τραμπ με τον Τζέφρι Έπσταϊν, για να δυσφημήσει τον πρώην πρόεδρο των ΗΠΑ.
- Οι πρόσφατες εκλογές στην Ινδονησία έφεραν στη δημοσιότητα ένα deepfake βίντεο που «ανασταίνει» τον Πρόεδρο Σουχάρτο. Φαινομενικά, ήταν ένας τρόπος για να ενθαρρύνει τον κόσμο να ψηφίσει, αλλά κατηγορήθηκε ότι ήταν προπαγάνδα επειδή παρήχθη από το πολιτικό κόμμα του οποίου ηγήθηκε.
- Άλλη μια πιο προφανής χρήση των deepfakes είναι η διάδοση ψεμάτων για πολιτικούς υποψηφίους. Για παράδειγμα, πλαστός ήχος που δημιουργήθηκε από AI που κυκλοφόρησε ημέρες πριν από τις κοινοβουλευτικές εκλογές στη Σλοβακία τον Σεπτέμβριο του 2023 προσπάθησε να απεικονίσει τον ηγέτη της Προοδευτικής Σλοβακίας, Michal Šimečka, να συζητά με έναν δημοσιογράφο πώς να νοθεύσει την ψηφοφορία.
- Σε πρόσφατες κρίσεις, όπως η σύγκρουση Ισραήλ/Χαμάς, η γνωστή τεχνική της εκ νέου κοινής χρήσης παλιών εικόνων, με λεζάντα με παραπλανητικό τρόπο για να προκληθεί η εντύπωση ότι σχετίζονται με τρέχοντα γεγονότα, ήταν πιο κοινή σε σύγκριση με τις εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη.
Σε κάποιες περιπτώσεις, είναι ευκολο κανείς να καταλάβει ότι η εικόνα δεν είναι πραγματική. Σε άλλες, θα πρέπει κάποιος ειδικός να αναλύσει την εικόνα ή το βίντεο για να αποφανθεί για την γνησιότητά του.
Οι προσπάθειες χειραγώγησης που πραγματοποιούνται μέσω του Διαδικτύου δεν είναι απαραίτητο να γίνουν μόνο μέσω εικόνας ή βίντεο. Αφορούν προσπάθειες που συνδυάζουν συντονισμένους ανθρώπινους χρήστες και λογισμικό τεχνητής νοημοσύνης προκειμένου να επηρεάσουν τις τάσεις και το κλίμα σε κάθε περίσταση.
Κυβερνήσεις, εταιρείες, εξτρεμιστικές ομάδες και μια ευρεία ποικιλία άλλων οντοτήτων σε όλο τον κόσμο χρησιμοποιούν αυτοματοποιημένα ρομπότ (bots) όσο και ανώνυμους ανθρώπινους λογαριασμούς «sockpuppet» (μαριονέτα) σε προσπάθειες να ενισχύσουν και να καταστείλουν συγκεκριμένες ροές πληροφοριών κατά τη διάρκεια εκλογών, κρίσεων ασφαλείας και άλλων κρίσιμων γεγονότων . Χρησιμοποιούν αυτά τα ίδια εργαλεία για να σπείρουν παραπληροφόρηση και να συμμετέχουν σε οργανωμένες εκστρατείες πολιτικής χειραγώγησης.
Πρόσφατα αποκαλύφθηκε η δράση μίας ομάδας με την κωδική ονομασία «Team Jorge» προσφέρει υπηρεσίες hacking, παραπληροφόρησης και επηρεασμού των εκλογικών διαδικασιών σε πάνω από 30 χώρες. Μέσω του hacking, του σαμποτάζ και της αυτοματοποιημένης παραπληροφόρησης στα μέσα κοινωνικής δικτύωσης φαίνεται να έχει παρέμβει σε πάνω από 30 εκλογές παγκοσμίως εργαλειοποιώντας την παραπληροφόρηση μέσω ενός στρατού χιλιάδων ψεύτικων προφίλ στα μέσα κοινωνικής δικτύωσης.
Στις ευρωεκλογές, δεν είναι σίγουρο με ποιο τρόπο θα υπάρξει μία απειλητική χρήση των νέων τεχνολογιών. Μπορεί να γίνει με τη μορφή deepfake που θα χρησιμοποιηθούν με τρόπους που δεν έχουμε ακόμα αντιληφθεί, ή είναι πιθανό να δούμε παρόμοιες προσπάθειες χειραγώγησης του κοινού με fake news και bots.
Τρόποι προστασίας από την παραπληροφόρηση
Η ικανότητα της τεχνητής νοημοσύνης να δημιουργεί περιεχόμενο που μπορεί να χρησιμοποιηθεί για την προώθηση της παραπληροφόρησης είναι, σύμφωνα με έρευνες, μια από τις πιο ανησυχητικές εξελίξεις στον τομέα τα τελευταία χρόνια. Τον Μάρτιο, το Ευρωπαϊκό Κοινοβούλιο ενέκρινε τον νόμο AI, έναν ολοκληρωμένο κανονισμό για την τεχνητή νοημοσύνη, αλλά οι διατάξεις του δεν θα τεθούν σε ισχύ εγκαίρως για τις εκλογές της ΕΕ του 2024. Άλλα νομικά εργαλεία της ΕΕ – ιδίως το Digital Services Act και το Digital Markets Act – μπορούν ενδεχομένως να διαδραματίσουν κάποιο ρόλο, αλλά ολόκληρη η νομοθεσία σε αυτόν τον τομέα είναι σχετικά νέα και μη δοκιμασμένη.
Έχοντας αυτές τις ανησυχίες σε πρώτο πλάνο, και το γεγονός ότι τα social media διαδραματίζουν κυρίαρχο ρόλο στην διάδοση πληροφοριών, η Ευρωπαϊκή Επιτροπή ενέκρινε κάποιες κατευθυντήριες γραμμές, ζητωντας από διαδικτυακές πλατφόρμες όπως το X, το TikTok και το Facebook να μετριάσουν τους κινδύνους για τις εκλογές και να καταστείλουν την παραπληροφόρηση των ψηφοφόρων. Αν και οι κατευθυντήριες γραμμές δεν είναι νομικά δεσμευτικές, η Επιτροπή θα μπορούσε να κινήσει επίσημες διαδικασίες κατά οποιασδήποτε πλατφόρμας που αποκλίνει από τις διατάξεις της DSA για τις εκλογές και τις δημοκρατικές διαδικασίες. Αυτό θα μπορούσε να οδηγήσει σε πρόστιμα των εκτελεστικών στελεχών έως και 6% του παγκόσμιου τζίρου σε μη συμμορφούμενες πλατφόρμες και μηχανές αναζήτησης.
Σύμφωνα με το νέο πλαίσιο, οι πλατφόρμες θα πρέπει να επισημαίνουν επειγόντως καταστάσεις υψηλού κινδύνου όπως για παράδειγμα το ηχητικό με τον ηγέτη της Προοδευτικής Σλοβακίας στο πλαίσιο ενός νέου μηχανισμού αντιμετώπισης συμβάντων και να συνεργάζονται με ευρωπαϊκές και εθνικές αρχές, ανεξάρτητους εμπειρογνώμονες και οργανώσεις της κοινωνίας των πολιτών για την αντιμετώπιση αναδυόμενων απειλών.
Το 2024 είναι ένα έτος εκλογών καθώς σε τουλάχιστον 64 χώρες οι πολίτες έχουν κληθεί ή ετοιμάζονται να πάνε στις κάλπες. Σε παρόμοιο κλίμα θα μπουν και στις αρχές Ιουνίου, οι Ευρωπαίοι πολίτες από 27 διαφορετικά κράτη μέλη καθώς θα κληθούν να ψηφίσουν τα μέλη του επόμενου Ευρωπαϊκού Κοινοβουλίου. Όλες αυτές οι εκλογές γίνονται σε μια εποχή που η παγκόσμια ασφάλεια και τα ίδια τα θεμέλια της δημοκρατίας βρίσκονται υπό σημαντική πίεση από την άνοδο του λαϊκισμού, των ακροδεξιών ιδεολογιών και των φασιστικών κινημάτων. Εν τω μεταξύ, η εμπιστοσύνη στους κυρίαρχους θεσμούς όπως οι πολιτικοί και τα μέσα ενημέρωσης παραμένει εξαιρετικά χαμηλή.
Σε μία εποχή που οι αυξανόμενες δυνατότητες της τεχνητης νοημοσύνης χρησιμοποιούνται σε πολλές περιπτώσεις με επικίνδυνο τρόπο, υπάρχει έντονη ανησυχία ότι οι ψηφιακές απειλές και η εξάπλωση της παραπληροφόρησης θα επηρεάσουν την ακεραιότητα ακόμα και των Ευρωεκλογών.
Η παραπληροφόρηση έχει συγκριθεί με μια «ατομική βόμβα στο πληροφοριακό μας οικοσύστημα», ένα πρόβλημα τόσο ύπουλο που επιτρέπει στις θεωρίες μίσους, θυμού και συνωμοσίας να εξαπλωθούν ταχύτερα από την αλήθεια. Σύμφωνα με τα λόγια της δημοσιογράφου και βραβευμένης με Νόμπελ Ειρήνης Μαρία Ρέσσα, κάνει τη δημοκρατία «όνειρο».
Αν δούμε μερικά από τα μεγαλύτερα ζητήματα και εκστρατείες των τελευταίων ετών -εκλογές σε εθνικό επίπεδο, ψήφος για το Brexit, ακόμη και συζήτηση γύρω από τους περιορισμούς του κορωνοϊού- υπάρχει ένα σταθερό στοιχείο που μοιράζονται όλα: η παρουσία της πολιτικής προπαγάνδας. Καθοδηγούμενη από το μεταβαλλόμενο τοπίο των μέσων ενημέρωσης και την άνοδο των μέσων κοινωνικής δικτύωσης, η πολιτική προπαγάνδα δεν χρησιμοποιήθηκε ποτέ περισσότερο.
Η διαδικτυακή παραπληροφόρηση είναι ένα πρόβλημα που δεν επηρεάζει απλώς τις εκλογές. Πολλές χώρες γίνονται μάρτυρες της αύξησης της κλίμακας της παραπληροφόρησης ως εργαλείου χειραγώγησης των αντιλήψεων του κοινού σε θέματα δημόσιας πολιτικής, προώθησης μιας ατζέντας ή πόλωσης των πολιτών. Από τον πόλεμο στην Ουκρανία μέχρι τον Covid-19 και τώρα τη σύγκρουση στη Μέση Ανατολή, η παραπληροφόρηση σήμερα διαμορφώνει σημαντικά παγκόσμια γεγονότα.
Deepfake εικόνες και χειραγώγηση κοινού
Μέχρι τώρα, το περιεχόμενο παραπληροφόρησης που δημιουργείται από την τεχνητή νοημοσύνη εξακολουθεί να είναι μια μικρή μειοψηφία της συνολικής εντοπισμένης παραπληροφόρησης στην ΕΕ, σύμφωνα με τις μηνιαίες εκθέσεις του δικτύου ελέγχου γεγονότων EDMO, αλλά πολλα παραδείγματα ψέυτικων εικόνων και βίντεο αποδεικνύουν ότι ο κίνδυνος είναι ορατός και άμεσος.
Τους τελευταίους μήνες, διάφορες εικόνες που δημιουργήθηκαν από TN έχουν διαδοθεί σε διάφορες χώρες για να χειραγωγήσουν το κοινό.
- Μία εικόνα με τρακτέρ και μπάλες άχυρου μπροστά από τον Πύργο του Άιφελ στο Παρίσι είχε ως στόχο να μεγαλοποιήσει τη διάσταση των διαμαρτυριών των τρακτέρ.
An AI-generated image has been shared as French farmers dumping bales of hay near the Eiffel Tower in Paris amid the ongoing farmer protests. Read our fact-check here.https://t.co/0fN1PyI1xD
— Logically Facts (@LogicallyFacts) February 8, 2024
- Σε μία άλλη περίπτωση, η εικόνα μιας λευκής άστεγης μητέρας με παιδιά, που έγινε viral για να προκαλέσει εχθρότητα κατά των μεταναστών στο πλαίσιο της στεγαστικής κρίσης στην Ιρλανδία.
- Μια εικόνα του Ντόναλντ Τραμπ με τον Τζέφρι Έπσταϊν, για να δυσφημήσει τον πρώην πρόεδρο των ΗΠΑ.
- Οι πρόσφατες εκλογές στην Ινδονησία έφεραν στη δημοσιότητα ένα deepfake βίντεο που «ανασταίνει» τον Πρόεδρο Σουχάρτο. Φαινομενικά, ήταν ένας τρόπος για να ενθαρρύνει τον κόσμο να ψηφίσει, αλλά κατηγορήθηκε ότι ήταν προπαγάνδα επειδή παρήχθη από το πολιτικό κόμμα του οποίου ηγήθηκε.
- Άλλη μια πιο προφανής χρήση των deepfakes είναι η διάδοση ψεμάτων για πολιτικούς υποψηφίους. Για παράδειγμα, πλαστός ήχος που δημιουργήθηκε από AI που κυκλοφόρησε ημέρες πριν από τις κοινοβουλευτικές εκλογές στη Σλοβακία τον Σεπτέμβριο του 2023 προσπάθησε να απεικονίσει τον ηγέτη της Προοδευτικής Σλοβακίας, Michal Šimečka, να συζητά με έναν δημοσιογράφο πώς να νοθεύσει την ψηφοφορία.
- Σε πρόσφατες κρίσεις, όπως η σύγκρουση Ισραήλ/Χαμάς, η γνωστή τεχνική της εκ νέου κοινής χρήσης παλιών εικόνων, με λεζάντα με παραπλανητικό τρόπο για να προκληθεί η εντύπωση ότι σχετίζονται με τρέχοντα γεγονότα, ήταν πιο κοινή σε σύγκριση με τις εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη.
Σε κάποιες περιπτώσεις, είναι ευκολο κανείς να καταλάβει ότι η εικόνα δεν είναι πραγματική. Σε άλλες, θα πρέπει κάποιος ειδικός να αναλύσει την εικόνα ή το βίντεο για να αποφανθεί για την γνησιότητά του.
Οι προσπάθειες χειραγώγησης που πραγματοποιούνται μέσω του Διαδικτύου δεν είναι απαραίτητο να γίνουν μόνο μέσω εικόνας ή βίντεο. Αφορούν προσπάθειες που συνδυάζουν συντονισμένους ανθρώπινους χρήστες και λογισμικό τεχνητής νοημοσύνης προκειμένου να επηρεάσουν τις τάσεις και το κλίμα σε κάθε περίσταση.
Κυβερνήσεις, εταιρείες, εξτρεμιστικές ομάδες και μια ευρεία ποικιλία άλλων οντοτήτων σε όλο τον κόσμο χρησιμοποιούν αυτοματοποιημένα ρομπότ (bots) όσο και ανώνυμους ανθρώπινους λογαριασμούς «sockpuppet» (μαριονέτα) σε προσπάθειες να ενισχύσουν και να καταστείλουν συγκεκριμένες ροές πληροφοριών κατά τη διάρκεια εκλογών, κρίσεων ασφαλείας και άλλων κρίσιμων γεγονότων . Χρησιμοποιούν αυτά τα ίδια εργαλεία για να σπείρουν παραπληροφόρηση και να συμμετέχουν σε οργανωμένες εκστρατείες πολιτικής χειραγώγησης.
Πρόσφατα αποκαλύφθηκε η δράση μίας ομάδας με την κωδική ονομασία «Team Jorge» προσφέρει υπηρεσίες hacking, παραπληροφόρησης και επηρεασμού των εκλογικών διαδικασιών σε πάνω από 30 χώρες. Μέσω του hacking, του σαμποτάζ και της αυτοματοποιημένης παραπληροφόρησης στα μέσα κοινωνικής δικτύωσης φαίνεται να έχει παρέμβει σε πάνω από 30 εκλογές παγκοσμίως εργαλειοποιώντας την παραπληροφόρηση μέσω ενός στρατού χιλιάδων ψεύτικων προφίλ στα μέσα κοινωνικής δικτύωσης.
Στις ευρωεκλογές, δεν είναι σίγουρο με ποιο τρόπο θα υπάρξει μία απειλητική χρήση των νέων τεχνολογιών. Μπορεί να γίνει με τη μορφή deepfake που θα χρησιμοποιηθούν με τρόπους που δεν έχουμε ακόμα αντιληφθεί, ή είναι πιθανό να δούμε παρόμοιες προσπάθειες χειραγώγησης του κοινού με fake news και bots.
Τρόποι προστασίας από την παραπληροφόρηση
Η ικανότητα της τεχνητής νοημοσύνης να δημιουργεί περιεχόμενο που μπορεί να χρησιμοποιηθεί για την προώθηση της παραπληροφόρησης είναι, σύμφωνα με έρευνες, μια από τις πιο ανησυχητικές εξελίξεις στον τομέα τα τελευταία χρόνια. Τον Μάρτιο, το Ευρωπαϊκό Κοινοβούλιο ενέκρινε τον νόμο AI, έναν ολοκληρωμένο κανονισμό για την τεχνητή νοημοσύνη, αλλά οι διατάξεις του δεν θα τεθούν σε ισχύ εγκαίρως για τις εκλογές της ΕΕ του 2024. Άλλα νομικά εργαλεία της ΕΕ – ιδίως το Digital Services Act και το Digital Markets Act – μπορούν ενδεχομένως να διαδραματίσουν κάποιο ρόλο, αλλά ολόκληρη η νομοθεσία σε αυτόν τον τομέα είναι σχετικά νέα και μη δοκιμασμένη.
Έχοντας αυτές τις ανησυχίες σε πρώτο πλάνο, και το γεγονός ότι τα social media διαδραματίζουν κυρίαρχο ρόλο στην διάδοση πληροφοριών, η Ευρωπαϊκή Επιτροπή ενέκρινε κάποιες κατευθυντήριες γραμμές, ζητωντας από διαδικτυακές πλατφόρμες όπως το X, το TikTok και το Facebook να μετριάσουν τους κινδύνους για τις εκλογές και να καταστείλουν την παραπληροφόρηση των ψηφοφόρων. Αν και οι κατευθυντήριες γραμμές δεν είναι νομικά δεσμευτικές, η Επιτροπή θα μπορούσε να κινήσει επίσημες διαδικασίες κατά οποιασδήποτε πλατφόρμας που αποκλίνει από τις διατάξεις της DSA για τις εκλογές και τις δημοκρατικές διαδικασίες. Αυτό θα μπορούσε να οδηγήσει σε πρόστιμα των εκτελεστικών στελεχών έως και 6% του παγκόσμιου τζίρου σε μη συμμορφούμενες πλατφόρμες και μηχανές αναζήτησης.
Σύμφωνα με το νέο πλαίσιο, οι πλατφόρμες θα πρέπει να επισημαίνουν επειγόντως καταστάσεις υψηλού κινδύνου όπως για παράδειγμα το ηχητικό με τον ηγέτη της Προοδευτικής Σλοβακίας στο πλαίσιο ενός νέου μηχανισμού αντιμετώπισης συμβάντων και να συνεργάζονται με ευρωπαϊκές και εθνικές αρχές, ανεξάρτητους εμπειρογνώμονες και οργανώσεις της κοινωνίας των πολιτών για την αντιμετώπιση αναδυόμενων απειλών.
