Τον Ιανουάριο, η Κίνα θα εισαγάγει την πρώτη στο είδος της ρύθμιση για τις deepfake εικόνες, ενισχύοντας τον έλεγχο του περιεχομένου στο ίντερνετ.

Τα deepfakes είναι συνθετικά παραγόμενες ή τροποποιημένες εικόνες ή βίντεο που δημιουργούνται με τη χρήση μιας μορφής τεχνητής νοημοσύνης. Η τεχνολογία μπορεί να χρησιμοποιηθεί για την τροποποίηση ενός υπάρχοντος βίντεο, για παράδειγμα με την τοποθέτηση του προσώπου ενός πολιτικού πάνω σε ένα υπάρχον βίντεο ή ακόμη και με τη δημιουργία ψεύτικου λόγου. Το αποτέλεσμα είναι κατασκευασμένα multimedia αρχεία που φαίνονται να είναι αληθινά αλλά δεν είναι.

Το Πεκίνο ανακοίνωσε τους κανόνες που διέπουν τις «τεχνολογίες βαθιάς σύνθεσης» (deep synthesis technologies) νωρίτερα φέτος και τους οριστικοποίησε τον Δεκέμβριο. Θα τεθούν σε ισχύ στις 10 Ιανουαρίου.

[διαβάστε εδώ το άρθρο μας για τις deepfake εικόνες των διασημοτήτων που γίνονται viral]

Ακολουθούν ορισμένες από τις βασικές διατάξεις:

• Οι χρήστες πρέπει να δίνουν τη συγκατάθεσή τους εάν η εικόνα τους πρόκειται να χρησιμοποιηθεί σε οποιαδήποτε τέτοια τεχνολογία
• Οι υπηρεσίες «βαθιάς σύνθεσης» δεν μπορούν να χρησιμοποιούν την τεχνολογία για τη διάδοση ψευδών ειδήσεων
• Οι υπηρεσίες «βαθιάς σύνθεσης» πρέπει να πιστοποιούν την πραγματική ταυτότητα των χρηστών
• Το συνθετικό περιεχόμενο πρέπει να διαθέτει κάποιου είδους «ειδοποίηση» για να ενημερώνει τους χρήστες ότι η εικόνα ή το βίντεο έχει τροποποιηθεί με την συγκεκριμένη τεχνολογία
• Απαγορεύεται το περιεχόμενο που αντιβαίνει στους ισχύοντες νόμους, καθώς και το περιεχόμενο που θέτει σε κίνδυνο την εθνική ασφάλεια και τα εθνικά συμφέροντα, βλάπτει την εθνική εικόνα ή διαταράσσει την οικονομία

Η Διοίκηση Κυβερνοχώρου της Κίνας είναι ο ρυθμιστής πίσω από αυτούς τους κανόνες.

Από τα τέλη του 2020, η Κίνα προσπάθησε να περιορίσει τη δύναμη των τεχνολογικών κολοσσών της χώρας και εισήγαγε σαρωτικές ρυθμίσεις σε τομείς που κυμαίνονται από την αντιμονοπωλιακή νομοθεσία έως την προστασία των δεδομένων. Αλλά έχει, επίσης, επιδιώξει να ρυθμίσει τις αναδυόμενες τεχνολογίες και έχει προχωρήσει περισσότερο από οποιαδήποτε άλλη χώρα στους κανόνες της για την τεχνολογία.

Νωρίτερα φέτος, η Κίνα εισήγαγε έναν κανόνα που διέπει τον τρόπο με τον οποίο οι εταιρείες τεχνολογίας μπορούν να χρησιμοποιούν αλγορίθμους συστάσεων, σε έναν άλλο νόμο για πρώτη φορά στο είδος του. Οι αναλυτές λένε ότι ο νόμος αντιμετωπίζει δύο στόχους: την αυστηρότερη λογοκρισία στο διαδίκτυο και το να προηγηθεί της ρύθμισης γύρω από τις νέες τεχνολογίες.

«Οι κινεζικές αρχές είναι σαφώς πρόθυμες να πατάξουν την ικανότητα των αντι-καθεστωτικών στοιχείων να χρησιμοποιούν deepfakes ανώτερων ηγετών, συμπεριλαμβανομένου του Σι Τζινπίνγκ, για να διαδώσουν αντι-καθεστωτική προπαγάνδα», δήλωσε στο CNBC ο Paul Triolo, επικεφαλής της τεχνολογικής πολιτικής στην εταιρεία συμβούλων Albright Stonebridge. «Αλλά οι κανόνες καταδεικνύουν επίσης ότι οι κινεζικές αρχές προσπαθούν να αντιμετωπίσουν σκληρά ζητήματα διαδικτυακού περιεχομένου με τρόπους που λίγες άλλες χώρες κάνουν, επιδιώκοντας να προηγηθούν, καθώς οι νέες τεχνολογίες – όπως το περιεχόμενο που δημιουργείται με τεχνητή νοημοσύνη – αρχίζουν να πολλαπλασιάζονται στο διαδίκτυο».

[διαβάστε εδώ το άρθρο μας για το πως οργανώθηκαν μέσω social media οι διαδηλώσεις στην Κίνα]

Ο Triolo πρόσθεσε ότι οι κανονισμοί για την τεχνητή νοημοσύνη που έχει εισαγάγει το Πεκίνο τα τελευταία χρόνια «έχουν σχεδιαστεί για να διατηρούν τις προσπάθειες ρύθμισης του περιεχομένου και λογοκρισίας ένα βήμα μπροστά από τις αναδυόμενες τεχνολογίες, διασφαλίζοντας ότι το Πεκίνο μπορεί να συνεχίσει να προβλέπει την εμφάνιση τεχνολογιών που θα μπορούσαν να χρησιμοποιηθούν για την παράκαμψη του συνολικού συστήματος ελέγχου».

Όμως, η τεχνολογία αυτή δεν είναι μόνο «κακή», αλλά μπορεί να έχει κάποιες θετικές εφαρμογές σε τομείς όπως η εκπαίδευση και η υγειονομική περίθαλψη. Αλλά η Κίνα προσπαθεί να αντιμετωπίσει τον αρνητικό της ρόλο στην παραγωγή ψευδών πληροφοριών.

Η Kendra Schaefer, εταίρος της εταιρείας συμβούλων Trivium China με έδρα το Πεκίνο, υπέδειξε στο CNBC το σημείωμά της που δημοσιεύθηκε τον Φεβρουάριο, όταν ανακοινώθηκε το σχέδιο κανόνων, στο οποίο ανέλυε τις επιπτώσεις του κανονισμού-ορόσημο. «Το ενδιαφέρον κομμάτι είναι ότι η Κίνα στοχεύει σε μία από τις κρίσιμες απειλές για την κοινωνία μας στη σύγχρονη εποχή: τη διάβρωση της εμπιστοσύνης σε αυτά που βλέπουμε και ακούμε και την αυξανόμενη δυσκολία να διαχωρίσουμε την αλήθεια από το ψέμα», ανέφερε το σημείωμα.

Μέσω της θέσπισης κανονισμών, οι διάφοροι ρυθμιστικοί φορείς της Κίνας έχουν αποκτήσει εμπειρία στην επιβολή κανόνων τεχνολογίας. Υπάρχουν ορισμένα μέρη του κανονισμού για τα deepfake αρχεία που είναι ασαφή, όπως το πώς να αποδείξετε ότι έχετε τη συγκατάθεση κάποιου άλλου για να χρησιμοποιήσετε την εικόνα του. Αλλά συνολικά, ανέφερε η Trivium στο σημείωμά της, το υπάρχον ρυθμιστικό σύστημα της Κίνας θα τη βοηθήσει να επιβάλει τους κανόνες.

«Η Κίνα είναι σε θέση να θεσπίσει αυτούς τους κανόνες επειδή διαθέτει ήδη συστήματα για τον έλεγχο της μετάδοσης περιεχομένου σε διαδικτυακούς χώρους και ρυθμιστικούς φορείς που επιβάλλουν αυτούς τους κανόνες», αναφέρεται επίσης στο σημείωμα.

Τα κενό μεταξύ εξώφθαλμης λογοκρισίας και κρυμμένης κρατικής χειραγώγησης

Σύμφωνα με την South China Morning Post, οι ειδήσεις που αναδημοσιεύονται με τη χρήση της τεχνολογίας πρέπει να προέρχονται από έναν εγκεκριμένο από την κυβέρνηση κατάλογο ειδησεογραφικών πρακτορείων. Ομοίως, οι κανόνες απαιτούν όλοι οι πάροχοι της λεγόμενης «βαθιάς σύνθεσης» να τηρούν τους νόμους της χώρας και να διατηρούν «σωστή πολιτική κατεύθυνση και σωστό προσανατολισμό της κοινής γνώμης». Ο σωστός εδώ, φυσικά, καθορίζεται μονομερώς από το κράτος.

Αν και ορισμένες πολιτείες των ΗΠΑ, όπως το Νιου Τζέρσεϊ και το Ιλινόις, έχουν εισαγάγει τοπική νομοθεσία για την προστασία της ιδιωτικής ζωής που αφορά τα deepfakes, η έλλειψη ουσιαστικών ομοσπονδιακών νόμων για την προστασία της ιδιωτικής ζωής περιορίζει τις δυνατότητες των ρυθμιστικών αρχών να αντιμετωπίσουν την τεχνολογία σε εθνικό επίπεδο. Στον ιδιωτικό τομέα, μεγάλες αμερικανικές πλατφόρμες όπως το Facebook και το Twitter έχουν δημιουργήσει νέα συστήματα που αποσκοπούν στον εντοπισμό και τη σήμανση των deepfakes, αν και προσπαθούν συνεχώς να βρίσκονται ένα βήμα μπροστά από αυτούς που αναζητούν συνεχώς τρόπους για να παρακάμψουν αυτά τα φίλτρα.

Τον Οκτώβριο, ένα βίντεο που έγινε viral, έδειχνε τον πρόεδρο Τζο Μπάιντεν να τραγουδάει το παιδικό τραγούδι “Baby Shark” σε μία ομιλία του στην Καλιφόρνια. Το βίντεο, το οποίο πρωτοεμφανίστηκε στο TikTok, κυκλοφόρησε ευρέως στα social media εκείνες τις ημέρες και αρχίζει με τον Μπάιντεν να λέει: «Κυρίες και κύριοι, και τώρα, ο μεγάλος μας εθνικός ύμνος». Αλλά αντί να τραγουδήσει το “The Star-Spangled Banner” τραγουδάει τους αρχικούς στίχους του “Baby Shark”.

Μια ανάρτηση στο Instagram, η οποία πλέον έχει αφαιρεθεί από την πλατφόρμα, περιείχε μια συντομευμένη εκδοχή του βίντεο συνοδευόμενη από σχόλια με βρισιές από έναν άνδρα που επέκρινε τον Μπάιντεν για τέτοια ελαφρότητα όταν ο κόσμος αντιμετωπίζει προβλήματα όπως ο πόλεμος της Ρωσίας στην Ουκρανία και οι ελλείψεις τροφίμων. Οι αναρτήσεις στο TikTok με το βίντεο συνοδεύονταν από σχόλια που εξέφραζαν παρόμοια δυσπιστία. «Έχει χάσει το μυαλό του», έγραφε ένα από αυτά. Ένας άλλος χρήστης είχε σχολιάσει: «Κυρίες και κύριοι, ΑΥΤΟΣ είναι ο ηγέτης αυτής της χώρας! Πώς;!!!!!!!».

Εάν οι νέοι κανόνες της Κίνας είναι επιτυχείς, θα μπορούσαν να θέσουν ένα πλαίσιο πολιτικής στο οποίο θα μπορούσαν να βασιστούν και να προσαρμοστούν άλλα κράτη. Δεν θα είναι η πρώτη φορά που η Κίνα θα πρωτοστατήσει στην αυστηρή μεταρρύθμιση της τεχνολογίας. Πέρυσι, η Κίνα εισήγαγε νέους σαρωτικούς νόμους για την προστασία της ιδιωτικότητας που περιόριζαν ριζικά τους τρόπους με τους οποίους οι ιδιωτικές εταιρείες μπορούσαν να συλλέγουν τα προσωπικά δεδομένα ενός ατόμου. Αυτοί οι κανόνες βασίστηκαν στον Γενικό Κανονισμό για την Προστασία Δεδομένων της Ευρώπης. Όπως και ο νέος κανονισμός για τις deepfake, εκείνοι οι κανόνες προστασίας της ιδιωτικής ζωής απαιτούσαν συγκεκριμένα από τις εταιρείες να λαμβάνουν τη συγκατάθεσή των ατόμων πριν από τη συλλογή των προσωπικών τους δεδομένων.

[διαβάστε εδώ το άρθρο μας για τον ακύρηχτο πόλεμο μεταξύ Ε.Ε. και Η.Π.Α. για το ίντερνετ]

Όλα αυτά ακούγονται «υπέροχα», αλλά οι νόμοι της Κίνας για την προστασία της ιδιωτικής ζωής έχουν ένα εξόφθαλμο, αλλά ταυτόχρονα κρυμμένο, κενό. Αν και ο νόμος προστατεύει τους ανθρώπους από τις ιδιωτικές εταιρείες που τρέφονται από τα δεδομένα τους, δεν κάνει σχεδόν τίποτα για να αποτρέψει τις κρατικές παραβιάσεις ιδιωτικότητας. Ομοίως, με τα deepfakes, δεν είναι σαφές πώς οι πρόσφατα προτεινόμενοι κανονισμοί θα απαγορεύσουν, για παράδειγμα, σε μια κρατική υπηρεσία να παραποιεί ή να χειραγωγεί ορισμένα κείμενα ή ήχους για να επηρεάσει την αφήγηση γύρω από αμφιλεγόμενα ή ευαίσθητα πολιτικά γεγονότα.

Το επόμενο διάστημα, οι εξελίξεις γύρω από τα θέματα της τεχνητής νοημοσύνης και τις “deep synthesis technologies” θα μας απασχολήσουν έντονα, όχι μόνο στο κομμάτι της «διασκέδασης» μέσω διαφόρων app και πλατφόρμων δημιουργίας εικόνων μέσω προτροπών, αλλά, κυρίως, στο επίπεδο κρατικού ελέγχου για το «γενικότερο καλό».

Με πληροφορίες από: CNBC, Gizmodo, AP, Inside Privacy