Η εικόνα της Billie Eilish χρησιμοποιήθηκε ως αντικείμενο deepfake πορνογραφίας στο TikTok σε ένα κλιπ και φωτογραφίες που συγκέντρωσαν εκατομμύρια προβολές. Το εν λόγω περιεχόμενο υπήρχε στην κεντρική σελίδα “For You”, την κύρια ροή της εφαρμογής.

Το slideshow των φωτογραφιών το είδαν 11 εκατομμύρια άνθρωποι πριν το TikTok αφαιρέσει το περιεχόμενο για παραβίαση των κανόνων γύρω από τη σεξουαλική παρενόχληση, όπως ορίζονται στις οδηγίες της κοινότητάς του. Ωστόσο, αυτό έγινε με μία καθυστέρηση τεσσάρων ημερών.

To TikTok ισχυρίζεται ότι πριν από την αφαίρεση του βίντεο, το περιεχόμενό του εντοπίστηκε και στη συνέχεια χαρακτηρίστηκε ως μη επιλέξιμο για τη ροή των χρηστών, επειδή έδειχνε «απροκάλυπτα σεξουαλικό υλικό».

Εκπρόσωπος της εταιρείας δήλωσε: «Αυτό το περιεχόμενο παραβιάζει τις Κοινοτικές Οδηγίες μας, οι οποίες δηλώνουν σαφώς ότι δεν επιτρέπουμε περιεχόμενο το οποίο αλλοιώνει ή μορφοποιεί την εικόνα ενός άλλου ατόμου για να απεικονίσει ή να υπονοήσει σεξουαλική υποκρισία».

Σύμφωνα με το VICE World News, οι εφαρμογές που χρησιμοποιούνται για τη δημιουργία εικόνων τεχνητής νοημοσύνης γίνονται όλο και πιο δημοφιλείς στους χρήστες του Instagram, του Twitter και του TikTok, καθώς τα avatars που βασίζονται σε selfies εμφανίζονται παντού.

Διαθέτοντας πάνω από 76.000 followers, ο λογαριασμός που δημοσίευσε την AI έκδοση της Billie Eilish, συνδέθηκε με έναν λογαριασμό στο Instagram που μοιράστηκε επίσης τις εικόνες και τον ακολουθούσαν περίπου 2.000 άτομα. Ο συγκεκριμένος χρήστης προσέφερε επιπλέον «μη λογοκριμένες εικόνες» της σταρ στην τιμή των 20 δολαρίων μέσω Instagram stories.

@0cean_eilish #billieeilish #deepfake #xd ♬ wish you were gay – Billie Eilish

Επικριτές επεσήμαναν πώς ο σημερινός αλγόριθμος του TikTok, ο οποίος φαινομενικά ενίσχυσε τα deepfakes της Eilish, αποτελεί κίνδυνο για όλους τους χρήστες. «Ο αλγόριθμος του TikTok δεν είναι ρυθμισμένος ώστε να ελέγχει το περιεχόμενο και αυτό είναι ένα κρίσιμο ζήτημα», δήλωσε στο VICE η Hera Hussain, ιδρύτρια και διευθύνουσα σύμβουλος του Chayn, ενός παγκόσμιου μη κερδοσκοπικού οργανισμού που εργάζεται για τον τερματισμό της έμφυλης βίας.

«Δεν θα έπρεπε να προτείνει αυτά τα βίντεο στις ροές των χρηστών τους. Δεν πρόκειται για ένα ακίνδυνο meme. Δεν είναι ένα στιγμιότυπο από τα βίντεο της ίδιας της τραγουδίστριας. Είναι μια υπερσεξουαλικοποιημένη εικόνα που χειραγωγείται από την τεχνητή νοημοσύνη».

Τώρα, ακόμα μια star της μουσικής βιομηχανίας μπαίνει στο επίκεντρο των deepfake εικόνων τεχνητής νοημοσύνης, και αυτή είναι η Lady Gaga. Οι φωτογραφίες που έγιναν viral στο Twitter και σε κάποια Μέσα, την απεικονίζουν ως Harley Quinn στην επικείμενη ταινία “Joker 2”.

Ο Todd Phillips, σκηνοθέτης της ταινίας, αρνήθηκε ότι «μια πρώτη ματιά» στη Lady Gaga θα έρθει σύντομα, καθώς υπήρξαν εικασίες το προηγούμενο Σαββατοκύριακο αφού ο σκηνοθέτης ανέβασε φωτογραφίες του Joaquin Phoenix στο Instagram από τα γυρίσματα.

Δυστυχώς, οι θαυμαστές της Gaga, αλλά και του Joker, θα πρέπει να περιμένουν περισσότερο για έναν πολύ πρακτικό λόγο: δεν έχουν ξεκινήσει ακόμα τα γυρίσματα των σκηνών που την αφορούν.

Με πληροφορίες από: Metro UK, Vice World News, Digital Spy, Mic