Τη Δευτέρα 22 Μάϊου, μια εικόνα προκάλεσε σύγχυση στην κοινότητα του Twitter και αρκετά Μέσα, όπως το Russia Today, το διέδωσαν ως έκτακτη είδηση, αναφέρει η Washington Post. Ωστόσο, η εικόνα ήταν προϊόν τεχνητής νοημοσύνης και στην πραγματικότητα καμία έκρηξη δεν πραγματοποιήθηκε στον κήπου του Πενταγώνου.
Η fake εικόνα κατάφερε να λειτουργήσει παραπλανητικά για τους χρήστες της δημοφιλής πλατφόρμας social media και αναρτήθηκε από τον λογαριασμό BloombergFeed, ο οποίος δεν σχετίζεται με το γνωστό μέσο ενημέρωσης Bloomberg.
Μετά από προσεκτική εξέταση, οι τοπικές αρχές επιβεβαίωσαν ότι η εικόνα δεν ανταποκρινόταν στην πραγματικότητα και δημιουργήθηκε από κάποιο μοντέλο τεχνητής νοημοσύνης, όπως το Stable Diffusion. Το Twitter ανταποκρίθηκε στην διάδοση του fake news και ανέστειλε το BloombergFeed, το οποίο έχει δημοσιεύσει περίπου 224 χιλιάδες tweets, αφού όμως η εικόνα ΤΝ είχε κοινοποιηθεί και από άλλους λογαριασμούς Twitter, όπως το Walter Bloomberg και Breaking Market News.
Το συγκεκριμένο περιστατικό, σε συνέχεια των deepfake εικόνων όπου έδειχναν τον Donald Trump να συλλαμβάνεται και τον Πάπα Φραγκίσκο να κυκλοφορεί με ένα μακρύ λευκό μπουφάν σαν τράπερ, υπογραμμίζει τον πιθανό κίνδυνο της διασποράς fake news μέσω των social media, με χρήση της τεχνητής νοημοσύνης, ακόμα και τα accounts έχουν επαληθευτεί από τις πλατφόρμες -το BloombergFeed είχε το χαρακτηριστικό μπλε τικ του Twitter.
Η εικόνα ενός τράπερ Πάπα μπορεί να μην αποτελεί μεγάλο θέμα, αλλά ένα κρατικό κτήριο, σαν το Πεντάγωνο των ΗΠΑ, που φαίνεται να βρίσκεται υπό κάποια απειλή σίγουρα είναι ικανή να προκαλέσει σοβαρά ζητήματα εθνικής ασφάλειας. Παράλληλα το ντόμινο εξελίξεων μπορεί να επιφέρει και οικονομικές ζημιές, καθώς μετά την διάδοση του Πενταγώνου σε καπνό, ο χρηματιστηριακός δείκτης Dow Jones έπεσε 85 μονάδες μέσα σε 4 λεπτά –η Washington Post αναφέρει ότι ανέκαμψε γρήγορα.
Το Ars Technica σχολιάζει πως μεγάλο μέρος της σύγχυσης με τις deepfake εικόνες ξεκίνησε όταν ο Elon Musk αποφάσισε να αυτοματοποιήσει την διαδικασία επαλήθευσης λογαριασμών του Twitter, απολύοντας ομάδες που είχαν υπό την επίβλεψή τους το περιεχόμενο της πλατφόρμας, αλλά και να μεταβεί σε ένα σύστημα όπου οι χρήστες μπορούν να πληρώσουν για να γίνει ο λογαριασμός τους verified.
Η ευκολία δημιουργίας deepfake εικόνων με την χρήση της τεχνητής νοημοσύνης από εργαλεία σαν το Midjourney, σε συνδυασμό με τον χαρακτήρα μιας πλατφόρμας όπως το Twitter, αποδεικνύει πως η ψευδή πληροφορία μπορεί να διαδοθεί γρήγορα και δεν είναι εύκολο να ελεγχθεί σε πρώτο χρόνο.
Ο Sam Gregory, εκτελεστικός διευθυντής του οργανισμού ανθρωπίνων δικαιωμάτων Witness, επεσήμανε στην Washington Post ότι όταν οι άνθρωποι επιθυμούν να πιστέψουν σε «κάτι», χαλαρώνουν την επιφυλακτικότητά τους και δεν εξετάζουν με ακρίβεια τις πληροφορίες πριν τις μοιραστούν. Περιέγραψε την πλαστή εικόνα του Πενταγώνου ως «επιφανειακή πλαστογραφία», σε αντίθεση με μια πιο πειστική deepfake.
Με πληροφορίες από: Ars Technica, Washington Post
Τη Δευτέρα 22 Μάϊου, μια εικόνα προκάλεσε σύγχυση στην κοινότητα του Twitter και αρκετά Μέσα, όπως το Russia Today, το διέδωσαν ως έκτακτη είδηση, αναφέρει η Washington Post. Ωστόσο, η εικόνα ήταν προϊόν τεχνητής νοημοσύνης και στην πραγματικότητα καμία έκρηξη δεν πραγματοποιήθηκε στον κήπου του Πενταγώνου.
Η fake εικόνα κατάφερε να λειτουργήσει παραπλανητικά για τους χρήστες της δημοφιλής πλατφόρμας social media και αναρτήθηκε από τον λογαριασμό BloombergFeed, ο οποίος δεν σχετίζεται με το γνωστό μέσο ενημέρωσης Bloomberg.
Μετά από προσεκτική εξέταση, οι τοπικές αρχές επιβεβαίωσαν ότι η εικόνα δεν ανταποκρινόταν στην πραγματικότητα και δημιουργήθηκε από κάποιο μοντέλο τεχνητής νοημοσύνης, όπως το Stable Diffusion. Το Twitter ανταποκρίθηκε στην διάδοση του fake news και ανέστειλε το BloombergFeed, το οποίο έχει δημοσιεύσει περίπου 224 χιλιάδες tweets, αφού όμως η εικόνα ΤΝ είχε κοινοποιηθεί και από άλλους λογαριασμούς Twitter, όπως το Walter Bloomberg και Breaking Market News.
Το συγκεκριμένο περιστατικό, σε συνέχεια των deepfake εικόνων όπου έδειχναν τον Donald Trump να συλλαμβάνεται και τον Πάπα Φραγκίσκο να κυκλοφορεί με ένα μακρύ λευκό μπουφάν σαν τράπερ, υπογραμμίζει τον πιθανό κίνδυνο της διασποράς fake news μέσω των social media, με χρήση της τεχνητής νοημοσύνης, ακόμα και τα accounts έχουν επαληθευτεί από τις πλατφόρμες -το BloombergFeed είχε το χαρακτηριστικό μπλε τικ του Twitter.
Η εικόνα ενός τράπερ Πάπα μπορεί να μην αποτελεί μεγάλο θέμα, αλλά ένα κρατικό κτήριο, σαν το Πεντάγωνο των ΗΠΑ, που φαίνεται να βρίσκεται υπό κάποια απειλή σίγουρα είναι ικανή να προκαλέσει σοβαρά ζητήματα εθνικής ασφάλειας. Παράλληλα το ντόμινο εξελίξεων μπορεί να επιφέρει και οικονομικές ζημιές, καθώς μετά την διάδοση του Πενταγώνου σε καπνό, ο χρηματιστηριακός δείκτης Dow Jones έπεσε 85 μονάδες μέσα σε 4 λεπτά –η Washington Post αναφέρει ότι ανέκαμψε γρήγορα.
Το Ars Technica σχολιάζει πως μεγάλο μέρος της σύγχυσης με τις deepfake εικόνες ξεκίνησε όταν ο Elon Musk αποφάσισε να αυτοματοποιήσει την διαδικασία επαλήθευσης λογαριασμών του Twitter, απολύοντας ομάδες που είχαν υπό την επίβλεψή τους το περιεχόμενο της πλατφόρμας, αλλά και να μεταβεί σε ένα σύστημα όπου οι χρήστες μπορούν να πληρώσουν για να γίνει ο λογαριασμός τους verified.
Η ευκολία δημιουργίας deepfake εικόνων με την χρήση της τεχνητής νοημοσύνης από εργαλεία σαν το Midjourney, σε συνδυασμό με τον χαρακτήρα μιας πλατφόρμας όπως το Twitter, αποδεικνύει πως η ψευδή πληροφορία μπορεί να διαδοθεί γρήγορα και δεν είναι εύκολο να ελεγχθεί σε πρώτο χρόνο.
Ο Sam Gregory, εκτελεστικός διευθυντής του οργανισμού ανθρωπίνων δικαιωμάτων Witness, επεσήμανε στην Washington Post ότι όταν οι άνθρωποι επιθυμούν να πιστέψουν σε «κάτι», χαλαρώνουν την επιφυλακτικότητά τους και δεν εξετάζουν με ακρίβεια τις πληροφορίες πριν τις μοιραστούν. Περιέγραψε την πλαστή εικόνα του Πενταγώνου ως «επιφανειακή πλαστογραφία», σε αντίθεση με μια πιο πειστική deepfake.
Με πληροφορίες από: Ars Technica, Washington Post
