O Brandon Ewing είναι ένα διάσημος gamer, γνωστός με το ψευδώνυμο Atrioc, ο οποίος στην πιο διάσημη διαδραστική livestream πλατφόρμα Twich έχει περίπου 314 χιλιάδες followers. Όταν στις 10 Απριλίου βγήκε live στην πλατφόρμα, κατά λάθος «μοίρασε» στο κοινό που τον παρακολουθούσε την εικόνα από τα παράθυρα που είχε ανοιχτά στον browser του. Μέχρι εδώ, τίποτα το ιδιαίτερο ή το πρωτοφανές. Ωστόσο, αυτό που δημιούργησε ένα μίνι σκάνδαλο, αφορούσε την ενεργή καρτέλα με deepfake βίντεο πορνογραφικού περιεχομένου, στο οποίο εμφανιζόντουσαν οι εξίσου διάσημες gamers Pokimane (9,3 εκατομμύρια followers) και QTCinderella (929 χιλιάδες followers). Κάποιος λοιπόν τράβηξε screenshot από εκείνη την στιγμή, την ανέβασε στο Reddit και τα υπόλοιπα ανήκουν στην σύγχρονη livestream ιστορία.

Για τα deepfakes σας έχουμε μιλήσει ξανά στο παρελθόν (δείτε εδώ).

Το διαδικτυακό περιεχόμενο που χαρακτηρίζεται ως deepfake, είναι συνθετικά παραγόμενες ή τροποποιημένες εικόνες/βίντεο που δημιουργούνται με τη χρήση μιας μορφής τεχνητής νοημοσύνης. Αυτοί που δημιουργούν αυτές τις εικόνες ή τα βίντεο, συνήθως, τοποθετούν το πρόσωπο ενός ατόμου σε ένα σώμα που έχει παραχθεί με κάποιο εργαλείο ΤΝ ή το ενσωματώνουν σε μια άλλη αληθινή εικόνα το ίδιου ή άλλου ατόμου, δημιουργώντας ουσιαστικά ένα φανταστικό πολυμέσο (multimedia). Μια δημοσιογράφος του Vice, η Samantha Cole, έχει αναφέρει πως η κύρια λειτουργία των deepfake είναι να δημιουργήσουν πορνογραφικό περιεχόμενο με γυναίκες celebrities να πρωταγωνιστούν και, ίσως πιο ανησυχητικά, να απεικονίζουν τις ακραίες σεξουαλικές φαντασιώσεις των δημιουργών. Δεδομένης της διαθεσιμότητας εικόνων μας στα social media, ο καθένας που μπορεί να χειριστεί αυτά τα εργαλεία και έχει πρόσβαση σε μια φωτογραφία μας -είτε ολόσωμη είτε μόνο το πρόσωπό μας- μπορεί να την μετατρέψει ουσιαστικά σε πορνό. «Την έχουμε γαμήσει όλοι», το έθεσε συνοπτικά η Cole στο άρθρο της.

Για τους περισσότερους, είναι προφανές ότι ο Atrioc διέπραξε κάποιο παράπτωμα. Αν και δεν δημιούργησε ο ίδιος τα deepfake βίντεο της QTCinderella και της Pokimane, «κατανάλωσε» το πλασματικό και μη συναινετικό πορνογραφικό υλικό, κάτι που συνοδεύτηκε με αντίστοιχα σχόλια στην κοινότητα του Reddit και του Twitch. Οι αντιδράσεις αυτές είναι φυσικά κατανοητές και δικαιολογημένες, ωστόσο αυτό που είναι δύσκολό είναι το να προσδιορίσουμε ακριβώς πού έγκειται το «έγκλημα» του Atrioc.

Ουσιαστικά, αυτά τα κρούσματα που αφορούν deepfake υλικό, φέρνουν στο προσκήνιο διάφορα ερωτήματα, κυρίως φιλοσοφικά, που μας αναγκάζουν όχι μόνο να επανεξετάσουμε το πορνό αλλά και τη φύση της ανθρώπινης φαντασίας.

Εικονογράφηση: Freepik

Το δίλημμα του διεστραμμένου

Αν και για τους περισσότερους ανθρώπους, η deepfake πορνογραφία είναι ανήθικη, φαίνεται δύσκολο να δικαιολογήσουμε αυτή τη διαίσθηση χωρίς να καταδικάσουμε ταυτόχρονα άλλες ενέργειες που συνήθως δεν βρίσκουμε ηθικά επιλήψιμες, όπως οι σεξουαλικές φαντασιώσεις.

«Θα πρέπει να καταλάβεις, αγαπητή Τερέζα, ότι τα πράγματα δεν έχουν άλλη αξία πέρα από εκείνη που τους δίνει η φαντασία μας» – Μαρκήσιος ντε Σαντ

Ο Carl Öhman, αναπληρωτής ανώτερος λέκτορας στο Τμήμα Δημόσιας Διοίκησης του Πανεπιστημίου της Ουψάλα, που ερευνά την πολιτική και ηθική της Τεχνητής Νοημοσύνης, στην έκθεσή του «Παρουσιάζοντας το δίλημμα του διεστραμμένου», αναφέρει πως «Το δίλημμα του διεστραμμένου προκαλείται αναπόφευκτα από την εμφάνιση της εξελιγμένης τεχνολογίας των πληροφοριών. Για το λόγο αυτό, είναι λογικό η προσέγγισή μας για την αποκάλυψη του προβλήματος να έχει και μια πληροφοριακή οπτική γωνία. Δηλαδή, θα πρέπει να κατανοήσουμε τους Α, Β, και τις ενέργειές τους, ως παράγοντες που ενεργούν ως απάντηση σε κάποιο είδος πληροφοριακού περιβάλλοντος».

Από αυτή την οπτική γωνία, το ερώτημα που πρέπει να θέσουμε είναι το εξής: ενθάρρυνε ο Atrioc την παραγωγή και διάδοση του deepfake πορνό παρακολουθώντας το;

Ο προβληματισμός που προέκυψε, όπως και σε αντίστοιχες περιπτώσεις, έγκειται στην ίδια την κατανάλωση των deepfakes και όχι στις επακόλουθες συνέπειες που είχε αυτό. Όμως θα πρέπει να τοποθετήσουμε κάποια όρια, γιατί αν δεν υπάρχει κάποιος να παρακολουθήσει το deepfake περιεχόμενο με ηδονοβλεπτική μανία ίσως τότε αποτραπεί και η παραγωγή του. Οπότε η μπορούμε να πούμε πως τα deepfakes είναι ανήθικα, τελεία και παύλα, ανεξάρτητα από το αν οι άνθρωποι που πρωταγωνιστούν σε αυτά ή οποιοσδήποτε άλλος τα ανακαλύψει.

Παρόλα αυτά, είμαστε εξίσου σίγουροι ότι οι σεξουαλικές φαντασιώσεις είναι ηθικά ουδέτερες; Κανείς δεν θα μπορούσε να κατηγορήσει τον Atrioc, ή οποιοδήποτε άλλο άτομο, για την δημιουργία πορνογραφικών εικόνων στο μυαλό του, αλλά ποια είναι η διαφορά στην πραγματικότητα μεταξύ εσωτερικής φαντασίωσης και οπτικοποίησής της;

Τόσο η φαντασίωση όσο και τα deepfake είναι ουσιαστικά εικόνες που παράγονται από προηγούμενη εισαγωγή δεδομένων, μόνο που η μία υπάρχει στο κεφάλι κάποιου ενώ η άλλη σε μια οθόνη. Είναι αλήθεια ότι η τελευταία μπορεί να μοιραστεί ευκολότερα σε πλήθος κόσμους, αλλά αν το παράπτωμα έγκειται στην ιδιωτική κατανάλωση και όχι στις επιπτώσεις της, τότε θα πρέπει να τα διαχωρίσουμε.

Εξ ου και το δίλημμα του διεστραμμένου. Θεωρούμε ότι οι σεξουαλικές φαντασιώσεις είναι αποδεκτές εφόσον δημιουργούνται και περιέχονται πάντα μόνο στο μυαλό μας, και απεχθείς τη στιγμή που υπάρχουν στον εγκέφαλο και την οθόνη μας με τη βοήθεια μιας κάπως ρεαλιστικής αναπαράστασης. Αλλά είναι αρκετά δύσκολο να εντοπίσουμε οποιαδήποτε ηθικά σχετική διάκριση που να δικαιολογεί αυτή την προσέγγιση.

Μακροπρόθεσμα, είναι πιθανό ότι αυτό θα μας οδηγήσει στην επανεκτίμηση της ηθικής μας στάσης απέναντι τόσο στα deepfake όσο και στις σεξουαλικές φαντασιώσεις, τουλάχιστον στο βαθμό που θέλουμε να διατηρήσουμε την συνέπεια στην ηθική μας. Σύμφωνα με το Wired, υπάρχουν δύο τρόποι για να το πετύχουμε αυτό.

Στην πρώτη περίπτωση, θα πρέπει σταδιακά να αποδεχτούμε ότι τα πορνογραφικά deepfake είναι ένας φυσιολογικός τρόπος να φαντασιωνόμαστε, απλώς αναθέτοντας σε ένα εργαλείο ΤΝ να αναπαραστήσει αυτό που έχουμε στο μυαλό μας. Λαμβάνοντας υπόψη την διαθεσιμότητα και την προσβασιμότητα σε μεγάλα γλωσσικά μοντέλα (LLM) που έχουν αναπτύξει δημιουργικά προγράμματα τέχνης, θα ήταν ειρωνικό να κάνουμε ότι δεν γνωρίζουμε πως ήδη, κάποιοι, μπορεί να έχουν προσαρμόσει τις φαντασιώσεις τους σε μια φωτογραφία μας που αναρτήσαμε το καλοκαίρι στο Instagram.

Το να γνωρίζουμε, όμως, ότι οι άνθρωποι πιθανώς χρησιμοποιούν τις φωτογραφίες μας για να δημιουργήσουν πλασματικό πορνό μπορεί να είναι το ίδιο με το να γνωρίζουμε ότι κάποιοι πιθανώς μας σκέφτονται -ή κοιτάζουν την πιο πρόσφατη selfie μας- και αυνανίζονται. Σίγουρα οι δυναμική αυτής της «σχέσης» αλλάζει όταν μας το πουν κατάμουτρα, στο πλαίσιο που δεν μας ενδιαφέρει ερωτικά ο άλλος, αλλά και στο παρελθόν κάτι τέτοιο δεν γινόταν; Μπορεί να μην υπήρχε η τεχνητή νοημοσύνη για να δώσει ψηφιακά σάρκα και οστά στην φαντασίωση, αλλά κανείς δεν μπορούσε να απαγορεύσει σε κάποιον ζωγράφο, στο προσωπικό του εργαστήριο, να δημιουργήσει «λάδι σε καμβά» μια γυμνή αναπαράσταση ενός σώματος και να το χρησιμοποιήσει κατά τις ορέξεις του. Μπορεί αυτή η συνθήκη να μοιάζει… παράξενη, ωστόσο, δεν είναι ηθικά απεχθής.

«Υπάρχει η τάση να θεωρούμε οτιδήποτε στην ανθρώπινη συμπεριφορά είναι ασυνήθιστο, μη γνωστό ή μη κατανοητό, ως νευρωτικό, ψυχοπαθητικό, ανώριμο, διεστραμμένο ή ως έκφραση κάποιου άλλου είδους ψυχολογικής διαταραχής» – Alfred Kinsey

Η δεύτερη, και αναμφισβήτητα πιο ενδιαφέρουσα και «σκοτεινή» περίπτωση, είναι να αρχίσουμε να αμφισβητούμε την ηθική ουδετερότητα των σεξουαλικών φαντασιώσεων συνολικά. Για μεγάλο χρονικό διάστημα, στην χριστιανική Ευρώπη και αργότερα στην προτεσταντική Αμερική, η σεξουαλική σκέψη θεωρούνταν βαθιά αμαρτωλή και στιγμάτισε αρκετούς ανθρώπους. Μόνο μετά τον Διαφωτισμό, ό,τι συμβαίνει στο μυαλό ενός ατόμου έγινε «ιδιωτική υπόθεση» πέρα ηθική αξιολόγηση. Αλλά αυτό είναι σίγουρα μια εξαίρεση, από ιστορικής πλευράς, και σε κάποιο βαθμό, εξακολουθούμε να ηθικοποιούμε τις φαντασιώσεις των ανθρώπων. Για παράδειγμα, αρκετοί άνθρωποι, ανεξαρτήτως πεποιθήσεως και ιδιότητας, θεωρούν ότι οι σεξουαλικές φαντασιώσεις που αφορούν ζώα και αντικείμενα ή περιλαμβάνουν βία είναι ηθικά επιλήψιμες.

Αλλά η έκρηξη των deepfake εικόνων και βίντεο μπορεί να μας δώσουν αφορμή να πάμε ακόμη πιο μακριά την προσέγγισή μας και να αμφισβητήσουμε τις «βρώμικες» σκέψεις γενικότερα. Από την έλευση του διαδικτύου και την εδραίωσή του στην ζωή μας, έχουμε διαμορφώσει μια νέα στάση απέναντι στην ηθική και την προστασία των προσωπικών μας δεδομένων. Οι περισσότεροι θεωρούμε σήμερα δεδομένο ότι κάποιος πρέπει να έχει τον πλήρη έλεγχο των πληροφοριών που αφορούν το εαυτό του, αλλά αυτό, με μια πιο αυστηρή ερμηνεία, δεν θα περιλάμβανε και τα δεδομένα που είναι αποθηκευμένα στο μυαλό άλλων ανθρώπων; Μπορούμε να ελέγχουμε τις φαντασιώσεις των άλλων, ακόμη κι αν αυτές μας προσβάλλουν σε οποιοδήποτε επίπεδο;

Στο 21o επεισόδιο “The one with a chick and a duck” της σειράς Friends, στην 3η σεζόν, ο Ρος πειράζει την Ρέιτσελ λέγοντας πως μπορεί να την φαντασιώνεται καθώς «Αυτό είναι ένα από τα προνόμια ενός πρώην». Η Ρέιτσελ στην συνέχεια τον παρακαλάει επανειλημμένα να σταματήσει, αλλά ο Ρος απαντά απλώς κλείνοντας τα μάτια του λέγοντας: «Περίμενε, περίμενε, τώρα είστε 100 και είμαι ο βασιλιάς». Πρόκειται για μια αδιαμφισβήτητα αστεία στιγμή, κάτι που επιβεβαιώνεται και από τα γέλια που ακούγονται από το κοινό, αλλά τώρα, 26 χρόνια αργότερα -ναι, ναι, τόσα είναι, όντως έχουμε μεγαλώσει-, μας αφήνει μια πικρόχολη γεύση και μας φέρνει σε σχετική αμηχανία. Στην εποχή της (υπερ)πληροφόρησης, του politically correct και των δομικών αλλαγών στην κοινωνία μέσα από αγώνες και κινήματα, η ηθική ουδετερότητα του μυαλού φαίνεται να πολιορκείται όλο και περισσότερο. Ίσως, σε 26 χρόνια από τώρα, η σκέψη πως μπορούμε να κάνουμε ό,τι θέλουμε μέσα στο κεφάλι μας -όπως ο Ρος ή εσύ που διαβάζεις αυτό το κείμενο και εχθές το βράδυ φαντασιώθηκες τ@ πρώην σου- να φαίνεται στους ανθρώπους ηθικά αηδιαστική.

«Ο χαρακτήρας δεν είναι κάτι με το οποίο γεννιέσαι και δεν μπορείς να τον αλλάξεις, όπως τα δακτυλικά σου αποτυπώματα. Είναι κάτι με το οποίο δεν γεννηθήκατε και πρέπει να αναλάβετε την ευθύνη για τη διαμόρφωσή του» – Jim Rohn

Εικονογράφηση: Freepik

Εξερευνώντας το μέλλον

Πιθανόν, στο μέλλον, κάποιο από τα δύο σενάρια να επικρατήσει. Οι εκκλήσεις για ηθικολόγηση και οριοθέτηση της φαντασίωσης θα είναι γεγονός και αν δεν προκύψει κάποιο νομικό πλαίσιο στην δημιουργική ΤΝ, τότε οι άνθρωποι θα σοκάρονται ολοένα και λιγότερο με deepfake περιεχόμενο.

Συγκρίνοντας την αρχική κινδυνολογία για την ύπαρξη ψεύτικων εικόνων/βίντεο με το τώρα, οι προβληματισμοί γύρω από την καλπάζουσα τεχνολογική ανάπτυξη περιορίζονται, κυρίως, στα πιθανά προβλήματα που μπορεί να προκύψουν και επηρεάζουν τα κράτη και τις παγκόσμιες ισορροπίες από τη μεταξύ τους σχέση. Ωστόσο, δεν προβλέπεται να καταλήξουμε σύντομα σε κάποια ηθική συναίνεση με το deepfake περιεχόμενο. Ως ανθρωπότητα μας πήρε χιλιάδες χρόνια για να μάθουμε να ζούμε με ανεξερεύνητα μονοπάτια της φαντασίας μας και η ΤΝ επαναπροσδιορίζει αρκετά πλαίσια που την επηρεάζουν.

Ανάμεσα σε αυτές τις δύο περιπτώσεις, ποια θα ήταν η προτιμότερη από άποψη ηθικής φιλοσοφίας; Δύσκολο να απαντήσει κάποιος. Και αυτό οφείλεται στο γεγονός ότι και οι δύο επιλογές έχουν νόημα, ή τουλάχιστον θα μπορούσαν να έχουν νόημα -άλλωστε μιλάμε για «δίλημμα». Αλλά επίσης αυτό οφείλεται και στην φύση των ηθικών κρίσεων που καλούμαστε ως κοινωνία να διαχειριστούμε. Οι ηθικές αλήθειες δεν είναι μανιφέστα που διατυπώνονται μια για πάντα -αυτές είναι κτήμα των θρησκειών. Αντιθέτως, αναρωτιόμαστε κάθε λίγα χρόνια αν αυτές μπορούν να εφαρμοστούν στις δυναμικές αλλαγές της κοινωνίας και αν πρέπει να αναδιαμορφωθούν για να ενταχθούν σε άλλο πλαίσιο.

Το πόσα ηλεκτρόνια υπάρχουν σε ένα άτομο υδρογόνου το γνωρίζουμε από το 1897 και δεν χρειάζεται να αναδιατυπωθεί η ανακάλυψη, ούτε να ερωτηθεί ξανά η επιστήμη γι’ αυτό. Ερωτήματα, όμως, όπως το «Ποιοι είμαστε;», «Πού πάμε;», «Τι είναι καλό και κακό;» ή «Μπορούμε να κατηγορήσουμε τους ανθρώπους για τις φαντασιώσεις τους;», είναι ερωτήματα που πρέπει να τίθενται ξανά και ξανά από γενιά σε γενιά, ως κληροδότημα της προηγούμενης. Και αυτό πρέπει να συμβαίνει καθώς η ηθική φιλοσοφία είναι «κάτι» που πεθαίνει τη στιγμή που σταματάμε να ενεργούμε βάση αυτής. Για να έχει νόημα ο ηθικός μας κόσμος, πρέπει να τον επανεκτιμούμε συνειδητά, διότι οι πράξεις εξαρτώνται πάντα στο κοινωνικό, νομικό, τεχνολογικό και πολιτισμικό πλαίσιο στο οποίο λαμβάνουν χώρα. Μπορεί κάποτε η λέξη «νέγρος» να ήταν αποδεκτή, τώρα, όμως, όχι. Μπορεί κάποτε να αποκαλούσαν τους ομοφυλόφιλους «αδερφές» ή «πούστηδες», τώρα, όμως, όχι. Μπορεί να κάποτε η κακοποίηση ενός ζώου να ήταν αποδεκτή, τώρα, όμως, όχι. Έτσι, τη στιγμή που καταλήγουμε σε μια οριστική απάντηση στο ερώτημα ποια επιλογή είναι προτιμότερη από τη σκοπιά της ηθικής φιλοσοφίας, η ηθική φιλοσοφία αυτόματα παύει να υπάρχει.

Όπως αναφέραμε και νωρίτερα, σε 20 χρόνια πολλά απ’ αυτά που βιώνουμε τώρα ή έχουμε περιγράψει στο συγκεκριμένο κείμενο, να θεωρούνται παρωχημένα, ξεπερασμένα και, κατά κάποιον τρόπο, να έχουν διευθετηθεί. Όλα εξαρτώνται από το πώς θα συνεχίσουμε να οικοδομούμε τον κόσμο μας και να επανεκτιμούμε την ηθική.

Ίσως το deepfake περιεχόμενο να είναι ένα καλό βήμα για να επανεξετάσουμε ακριβώς τι βρίσκουμε επιλήψιμο στην φαντασίωση. Για να γίνει αυτό θα πρέπει να αξιολογήσουμε το κοινωνικό πλαίσιο στο οποίο αυτό το πορνογραφικό περιεχόμενο χρησιμοποιείται για να ικανοποιήσει σεξουαλικές φαντασιώσεις.

Είναι σαφές ότι τα deepfake, σε αντίθεση με την φαντασία που μας διεγείρει, αποτελούν μέρος ενός συστημικού τεχνολογικού εξευτελισμού του γυναικείου φύλου, έχοντας έντονα στοιχεία έμφυλου διαχωρισμού και πατριαρχίας, καθώς σχεδόν όλα τα πορνογραφικά deepfake αφορούν γυναίκες. Οι ηθικές επιπτώσεις αυτού του συστήματος είναι μεγαλύτερες από τη μεμονωμένη «κατανάλωση» πλαστής εικόνας ή βίντεο. Οι φαντασιώσεις, αυτές που υπάρχουν σαν όραμα και σκέψη στο μυαλό μας, δεν είναι έμφυλες -τουλάχιστον δεν έχουμε αντίστοιχες αξιόπιστες αποδείξεις- και ενώ το περιεχόμενο αυτών μπορεί να είναι μισογύνικο, η φαντασία εξ ορισμού δεν είναι κάτι τέτοιο.

Μπορούμε να δώσουμε λοιπόν μια απάντηση στο αν υπάρχουν ηθική και όρια στη φαντασίωση; Αυτή την στιγμή, δύσκολο. Ο τρόπος με τον οποίο χρησιμοποιείται τώρα η τεχνολογία εντάσσεται περισσότερο από ποτέ στα κοινωνικά και πολιτιστικά πρωτόκολλα (ή πλαίσια) στα οποία κινούμαστε και μέσα από αυτά διαμορφώνονται οι ηθικές μας γραμμές.

 

➥ Διαβάστε επίσης: Τι μπορείς να κάνεις αν γίνει viral μία deepfake φωτογραφία σου;