Οι νέες τεχνολογίες, η τεχνητή νοημοσύνη και τα chatbot έχει εφαρμογή σχεδόν σε όλους τους τομείς της ανθρώπινης δραστηριότητας. Μία από τις πιο παράδοξες όμως εφαρμογές της έρχεται να δώσει φωνή στους αγαπημένους μας που έχουν πεθάνει. Κατά κάποιο τρόπο, μας δίνει τη δυνατότητα για μία τεχνολογική ανάσταση νεκρών.
Μέσα από πληροφορίες που παίρνει η έξυπνη τεχνολογία από συνεντεύξεις και δεδομένα που της δίνονται, δημιουργούνται άβαταρ του αποθανόντα και έτσι δίνεται η δυνατότητα στους ζωντανούς να επικοινωνήσουν με τους νεκρούς. Πρόκειται ουσιαστικά για ηλεκτρονικά αντίγραφα που έρχονται να κρατήσουν ζωντανό το εικονικό μας εαυτό πολύ καιρό μετά την οριστική “απενεργοποίηση” του πραγματικού.
Αλλά το να δίνεις φωνή στους νεκρούς έρχεται με κόστος.
Με το ChatGPT και άλλα ισχυρά μοντέλα μεγάλων γλωσσών, είναι εφικτό να δημιουργηθεί το πιο πειστικό chatbot ενός νεκρού.
Πολλοί είναι αυτοί που βρίσκουν αυτή την τεχνολογία ανησυχητική και ανατριχιαστική. Υπάρχει επίσης η πεποίθηση ότι το να συνομιλείς με ψηφιακές εκδοχές αγαπημένων μας προσώπων μπορεί να παρατείνει τη θλίψη μας ή να επηρεάσει την επαφή μας με την πραγματικότητα.
Εκτός όμως από τις ψυχολογικές και συναισθηματικές επιπτώσεις, η διατήρηση ηλεκτρονικών αντιγράφων των νεκρών έχει και πρακτικές δυσκολίες. Το να κρατηθούν οι νεκροί ζωντανοί, απαιτούνται αμέτρητες εργατοώρες και πόροι που είναι ολοένα και πιο δύσκολο να βρεθούν.
Κάποιος πρέπει πάντα να κάνει τη σκληρή δουλειά της συντήρησης των αυτοματοποιημένων συστημάτων, όπως αποδεικνύεται από τους καταπονημένους και ελλιπώς αμειβόμενους δημιουργούς και συντονιστές περιεχομένου που συντηρούν και διαχειρίζονται όλης την ψηφιακή περιουσία. Οι δημιουργοί περιεχομένου εξαρτώνται από την εργασία του backend των φροντιστών και ένα δίκτυο ανθρώπινων και μη ανθρώπινων οντοτήτων, από συγκεκριμένα λειτουργικά συστήματα και συσκευές έως τεράστιους servers, για να διατηρούν ζωντανά τα ψηφιακά κειμήλια σε πολλές γενιές.
Η ενημέρωση των δομών και η διατήρηση αυτών των ηλεκτρονικών αρχείων με δυνατότητα αναζήτησης, χρήσης και πρόσβασης απαιτεί εργασία, ενέργεια και χρόνο. Η δημιουργία αντίγράφων των νεκρών απαιτεί τεράστιους πόρους, συμπεριλαμβανομένων των πρώτων υλών, του νερού και της ενέργειας, γεγονός που δείχνει την ασυδοσία της διατήρησης chatbots των νεκρών ενόψει της καταστροφικής κλιματικής αλλαγής. Έχει επίσης αστρονομικό οικονομικό κόστος: Το ChatGPT υποτίθεται ότι κοστίζει 700.000 $ την ημέρα για τη συντήρηση και θα χρεοκοπήσει το OpenAI έως το 2024. Αυτό δεν είναι ένα βιώσιμο μοντέλο για την αθανασία.
Θνησιμότητα ανθρώπων και τεχνολογίας
Και ακόμη και με όλη αυτή την προσπάθεια, οι συσκευές, οι μορφές και οι ιστότοποι πεθαίνουν επίσης, όπως κάνουμε εμείς οι θνητοί. Παρά τη φαντασίωση ενός αυτοματοποιημένου σπιτιού που μπορεί να λειτουργεί στο διηνεκές ή ενός ιστότοπου που μπορεί να επιβιώσει για αιώνες, η δεδομένη απαρχαίωση των συσκευών και της τεχνολογίας σημαίνει ότι αυτά τα συστήματα σίγουρα θα παρακμάσουν και τελικά θα σταματήσουν να λειτουργούν.
Όπως μπορούν να επιβεβαιώσουν οι άνθρωποι που είναι επιφορτισμένοι με τη συντήρηση των ψηφιακών αντικειμένων των νεκρών αγαπημένων προσώπων, υπάρχει μια έντονη διαφορά μεταξύ αυτού που οι άνθρωποι πιστεύουν ότι θέλουν ή τι περιμένουν από τους άλλους να κάνουν και της πραγματικότητας του τι σημαίνει δηλαδή να στηρίζεις τις τεχνολογίες να συνεχίσουν με την πάροδο του χρόνου.
Οι πρώτες προσπάθειες δημιουργίας αντιγράφων νεκρών ανθρώπων που υποστηρίζονται από AI σίγουρα το επιβεβαιώνουν.
Το Intellitar’s Virtual Eternity, που εδρεύει στο Scottsdale της Αριζόνα, κυκλοφόρησε το 2008 και χρησιμοποίησε εικόνες και μοτίβα ομιλίας για να προσομοιώσει την προσωπικότητα ενός ανθρώπου, ίσως να συμπληρώσει κάποιον σε μια επαγγελματική συνάντηση ή να συνομιλήσει με τα αγαπημένα του πρόσωπα μετά το θάνατο ενός ατόμου. Αλλά λίγο μετά την παρακμή της εταιρείας το 2012, ο ιστότοπός της εξαφανίστηκε.
Το LifeNaut, ένα έργο που επιτρέπει σε οποιονδήποτε να δημιουργήσει ένα ψηφιακό αντίγραφο ασφαλείας του μυαλού και του γενετικού του κώδικα. Υποστηρίζεται από την διανθρωπιστική οργάνωση Terasem – η οποία είναι επίσης γνωστή για τη δημιουργία της BINA48, μιας ρομποτικής έκδοσης της Bina Aspen, συζύγου του ιδρυτή του Terasem.
Υυποτίθεται ότι, μόλις η τεχνολογία το κάνει δυνατό, θα συνδυάσει γενετικές και βιομετρικές πληροφορίες με ροές προσωπικών δεδομένων για να προσομοιώσουν ένα πλήρες ανθρώπινο ον. Αλλά ο ίδιος ο ιστότοπος του έργου βασίζεται σε ξεπερασμένο λογισμικό Flash, υποδεικνύοντας ότι η αληθινή υπόσχεση της ψηφιακής αθανασίας αργεί ακόμα να υλοποιηθεί και θα απαιτήσει ενημερώσεις στην πορεία.
Ποιος διαχειρίζεται και παίρνει αποφάσεις για τα ψηφιακά αντίγραφα ανθρώπων;
Υπάρχει επίσης το ερώτημα ποιος θα πρέπει να έχει εξαρχής την εξουσία να δημιουργήσει αυτά τα αντίγραφα: ένα στενό μέλος της οικογένειας, ένας εργοδότης, μια εταιρεία; Δεν θα ήθελαν όλοι να μετενσαρκωθούν ως chatbot.
Σε ένα άρθρο του 2021 για το San Francisco Chronicle, ο δημοσιογράφος Jason Fagone αφηγείται την ιστορία ενός άνδρα που ονομάζεται Joshua Barbeau που δημιούργησε μια έκδοση chatbot της από καιρό νεκρής αρραβωνιαστικιάς του Jessica χρησιμοποιώντας το GPT-3 του OpenAI. Ήταν ένας τρόπος για να αντιμετωπίσει το θάνατο και τη θλίψη, αλλά τον έκανε επίσης να επενδύσει σε μια στενή συναισθηματική σχέση με ένα άτομο που δεν ήταν πια στη ζωή. Δεν ήταν όμως ο τρόπος με τον οποίο τα άλλα αγαπημένα πρόσωπα της Jessica ήθελαν να τη θυμούνται καθώς τα μέλη της οικογένειας επέλεξαν να μην αλληλεπιδράσουν με το chatbot.
Στο τέλος, ωστόσο, οι προγραμματιστές και οι εταιρείες, όχι οι αγαπημένοι, έχουν τον έλεγχο για το πόσο καιρό διατηρούνται τα chatbots. Το πειραματικό πρόγραμμα που χρησιμοποιήθηκε για τη δημιουργία της προγραμματισμένης θνησιμότητας της Jessica Bot στο σύστημα, ο προγραμματιστής το κατασκεύασε σκόπιμα για να φθείρεται και να πεθαίνει, για εξοικονόμηση λειτουργικών δαπανών.
Ο Barbeau έπρεπε να είναι συνετός με το χρόνο του με την Jessica και σταμάτησε να αλληλεπιδρά με το chatbot προτού η μπαταρία του εξαντληθεί πολύ, ώστε να μην χρειαστεί να αντιμετωπίσει άμεσα μια άλλη μορφή θανάτου.
Σε ορισμένες περιπτώσεις, οι προγραμματιστές μπορεί να θέλουν να πιστεύουν ότι τα chatbots μπορούν να συνεχιστούν επ ‘αόριστον, βοηθώντας τους νεκρούς να αντικαταστήσουν εντελώς τους ζωντανούς εργάτες. Για παράδειγμα, η απεργία της ένωση Αμερικανών ηθοποιών εγείρει ερωτήματα σχετικά με τα δικαιώματα της προσωπικότητας των νεκρών, καθώς η τεχνητή νοημοσύνη μπορεί ενδεχομένως να χρησιμοποιηθεί για να αναβιώσει νεκρούς ηθοποιούς.
Παρόμοια ζητήματα έχουν ήδη γίνει με διάφορες deepfake εκδοχές νεκρών διασημοτήτων, συμπεριλαμβανομένης της αμφιλεγόμενης χρήσης της βαθιάς ψεύτικης φωνής του Anthony Bourdain σε ένα ντοκιμαντέρ για τη ζωή του, και σε μια πιο συνηθισμένη περίπτωση χαμηλής τεχνολογίας, ηχογραφημένες διαλέξεις ενός καθηγητή που του επιτρέπουν να συνεχίσει να εργάζεται σε πανεπιστήμιο μετά τον θάνατό του.
Αλλά τέτοιες αναδημιουργίες, εκτός από το να βλάψουν δυνητικά τους ζωντανούς εργάτες, μπορεί επίσης να αναστατώσουν τα αγαπημένα εν ζωή πρόσωπα των νεκρών και να τους προκαλέσουν νέους γραφειοκρατικούς πονοκεφάλους καθώς προσπαθούν να αναζητήσουν τον έλεγχο των αντιγράφων των νεκρών μελών της οικογένειάς τους.
Οι ψηφιακές εκδόσεις τεχνητής νοημοσύνης των ανθρώπων ενδέχεται να δημιουργηθούν χωρίς τη γνώση ή τη συγκατάθεση των ζωντανών συγγενών τους.
Η ψηφιακή ανάσταση των νεκρών μέσω της τεχνητής νοημοσύνης αποκαλύπτει τις σχέσεις ισχύος, τις υποδομές και τη δικτυωμένη εργασία πίσω από όλες τις μορφές ψηφιακής παραγωγής.
Μπορούμε να δημιουργήσουμε αληθινά αντίγραφα των νεκρών, αλλά αυτά τα αντίγραφα βασίζονται στη δουλειά των ζωντανών για να συνεχιστούν. Όπως συμβαίνει με τις ψηφιακές κληρονομιές γενικά, κάποιος πρέπει να πληρώσει για ονόματα τομέα, να διαγράψει μηνύματα ανεπιθύμητης αλληλογραφίας, να απαντήσει σε email σε νεκρούς λογαριασμούς, να ενημερώσει αρχεία και να τα μετακινήσει καθώς οι ιστότοποι και οι εταιρείες εξαφανίζονται.
Για εκείνους όμως που μένουν πίσω να νοιάζονται επ’ αόριστον για αυτές τις δημιουργίες, το ψυχολογικό κόστος μπορεί να είναι τεράστιο.
Με πληροφορίες από: Wired, CNET, The Guardian
Οι νέες τεχνολογίες, η τεχνητή νοημοσύνη και τα chatbot έχει εφαρμογή σχεδόν σε όλους τους τομείς της ανθρώπινης δραστηριότητας. Μία από τις πιο παράδοξες όμως εφαρμογές της έρχεται να δώσει φωνή στους αγαπημένους μας που έχουν πεθάνει. Κατά κάποιο τρόπο, μας δίνει τη δυνατότητα για μία τεχνολογική ανάσταση νεκρών.
Μέσα από πληροφορίες που παίρνει η έξυπνη τεχνολογία από συνεντεύξεις και δεδομένα που της δίνονται, δημιουργούνται άβαταρ του αποθανόντα και έτσι δίνεται η δυνατότητα στους ζωντανούς να επικοινωνήσουν με τους νεκρούς. Πρόκειται ουσιαστικά για ηλεκτρονικά αντίγραφα που έρχονται να κρατήσουν ζωντανό το εικονικό μας εαυτό πολύ καιρό μετά την οριστική “απενεργοποίηση” του πραγματικού.
Αλλά το να δίνεις φωνή στους νεκρούς έρχεται με κόστος.
Με το ChatGPT και άλλα ισχυρά μοντέλα μεγάλων γλωσσών, είναι εφικτό να δημιουργηθεί το πιο πειστικό chatbot ενός νεκρού.
Πολλοί είναι αυτοί που βρίσκουν αυτή την τεχνολογία ανησυχητική και ανατριχιαστική. Υπάρχει επίσης η πεποίθηση ότι το να συνομιλείς με ψηφιακές εκδοχές αγαπημένων μας προσώπων μπορεί να παρατείνει τη θλίψη μας ή να επηρεάσει την επαφή μας με την πραγματικότητα.
Εκτός όμως από τις ψυχολογικές και συναισθηματικές επιπτώσεις, η διατήρηση ηλεκτρονικών αντιγράφων των νεκρών έχει και πρακτικές δυσκολίες. Το να κρατηθούν οι νεκροί ζωντανοί, απαιτούνται αμέτρητες εργατοώρες και πόροι που είναι ολοένα και πιο δύσκολο να βρεθούν.
Κάποιος πρέπει πάντα να κάνει τη σκληρή δουλειά της συντήρησης των αυτοματοποιημένων συστημάτων, όπως αποδεικνύεται από τους καταπονημένους και ελλιπώς αμειβόμενους δημιουργούς και συντονιστές περιεχομένου που συντηρούν και διαχειρίζονται όλης την ψηφιακή περιουσία. Οι δημιουργοί περιεχομένου εξαρτώνται από την εργασία του backend των φροντιστών και ένα δίκτυο ανθρώπινων και μη ανθρώπινων οντοτήτων, από συγκεκριμένα λειτουργικά συστήματα και συσκευές έως τεράστιους servers, για να διατηρούν ζωντανά τα ψηφιακά κειμήλια σε πολλές γενιές.
Η ενημέρωση των δομών και η διατήρηση αυτών των ηλεκτρονικών αρχείων με δυνατότητα αναζήτησης, χρήσης και πρόσβασης απαιτεί εργασία, ενέργεια και χρόνο. Η δημιουργία αντίγράφων των νεκρών απαιτεί τεράστιους πόρους, συμπεριλαμβανομένων των πρώτων υλών, του νερού και της ενέργειας, γεγονός που δείχνει την ασυδοσία της διατήρησης chatbots των νεκρών ενόψει της καταστροφικής κλιματικής αλλαγής. Έχει επίσης αστρονομικό οικονομικό κόστος: Το ChatGPT υποτίθεται ότι κοστίζει 700.000 $ την ημέρα για τη συντήρηση και θα χρεοκοπήσει το OpenAI έως το 2024. Αυτό δεν είναι ένα βιώσιμο μοντέλο για την αθανασία.
Θνησιμότητα ανθρώπων και τεχνολογίας
Και ακόμη και με όλη αυτή την προσπάθεια, οι συσκευές, οι μορφές και οι ιστότοποι πεθαίνουν επίσης, όπως κάνουμε εμείς οι θνητοί. Παρά τη φαντασίωση ενός αυτοματοποιημένου σπιτιού που μπορεί να λειτουργεί στο διηνεκές ή ενός ιστότοπου που μπορεί να επιβιώσει για αιώνες, η δεδομένη απαρχαίωση των συσκευών και της τεχνολογίας σημαίνει ότι αυτά τα συστήματα σίγουρα θα παρακμάσουν και τελικά θα σταματήσουν να λειτουργούν.
Όπως μπορούν να επιβεβαιώσουν οι άνθρωποι που είναι επιφορτισμένοι με τη συντήρηση των ψηφιακών αντικειμένων των νεκρών αγαπημένων προσώπων, υπάρχει μια έντονη διαφορά μεταξύ αυτού που οι άνθρωποι πιστεύουν ότι θέλουν ή τι περιμένουν από τους άλλους να κάνουν και της πραγματικότητας του τι σημαίνει δηλαδή να στηρίζεις τις τεχνολογίες να συνεχίσουν με την πάροδο του χρόνου.
Οι πρώτες προσπάθειες δημιουργίας αντιγράφων νεκρών ανθρώπων που υποστηρίζονται από AI σίγουρα το επιβεβαιώνουν.
Το Intellitar’s Virtual Eternity, που εδρεύει στο Scottsdale της Αριζόνα, κυκλοφόρησε το 2008 και χρησιμοποίησε εικόνες και μοτίβα ομιλίας για να προσομοιώσει την προσωπικότητα ενός ανθρώπου, ίσως να συμπληρώσει κάποιον σε μια επαγγελματική συνάντηση ή να συνομιλήσει με τα αγαπημένα του πρόσωπα μετά το θάνατο ενός ατόμου. Αλλά λίγο μετά την παρακμή της εταιρείας το 2012, ο ιστότοπός της εξαφανίστηκε.
Το LifeNaut, ένα έργο που επιτρέπει σε οποιονδήποτε να δημιουργήσει ένα ψηφιακό αντίγραφο ασφαλείας του μυαλού και του γενετικού του κώδικα. Υποστηρίζεται από την διανθρωπιστική οργάνωση Terasem – η οποία είναι επίσης γνωστή για τη δημιουργία της BINA48, μιας ρομποτικής έκδοσης της Bina Aspen, συζύγου του ιδρυτή του Terasem.
Υυποτίθεται ότι, μόλις η τεχνολογία το κάνει δυνατό, θα συνδυάσει γενετικές και βιομετρικές πληροφορίες με ροές προσωπικών δεδομένων για να προσομοιώσουν ένα πλήρες ανθρώπινο ον. Αλλά ο ίδιος ο ιστότοπος του έργου βασίζεται σε ξεπερασμένο λογισμικό Flash, υποδεικνύοντας ότι η αληθινή υπόσχεση της ψηφιακής αθανασίας αργεί ακόμα να υλοποιηθεί και θα απαιτήσει ενημερώσεις στην πορεία.
Ποιος διαχειρίζεται και παίρνει αποφάσεις για τα ψηφιακά αντίγραφα ανθρώπων;
Υπάρχει επίσης το ερώτημα ποιος θα πρέπει να έχει εξαρχής την εξουσία να δημιουργήσει αυτά τα αντίγραφα: ένα στενό μέλος της οικογένειας, ένας εργοδότης, μια εταιρεία; Δεν θα ήθελαν όλοι να μετενσαρκωθούν ως chatbot.
Σε ένα άρθρο του 2021 για το San Francisco Chronicle, ο δημοσιογράφος Jason Fagone αφηγείται την ιστορία ενός άνδρα που ονομάζεται Joshua Barbeau που δημιούργησε μια έκδοση chatbot της από καιρό νεκρής αρραβωνιαστικιάς του Jessica χρησιμοποιώντας το GPT-3 του OpenAI. Ήταν ένας τρόπος για να αντιμετωπίσει το θάνατο και τη θλίψη, αλλά τον έκανε επίσης να επενδύσει σε μια στενή συναισθηματική σχέση με ένα άτομο που δεν ήταν πια στη ζωή. Δεν ήταν όμως ο τρόπος με τον οποίο τα άλλα αγαπημένα πρόσωπα της Jessica ήθελαν να τη θυμούνται καθώς τα μέλη της οικογένειας επέλεξαν να μην αλληλεπιδράσουν με το chatbot.
Στο τέλος, ωστόσο, οι προγραμματιστές και οι εταιρείες, όχι οι αγαπημένοι, έχουν τον έλεγχο για το πόσο καιρό διατηρούνται τα chatbots. Το πειραματικό πρόγραμμα που χρησιμοποιήθηκε για τη δημιουργία της προγραμματισμένης θνησιμότητας της Jessica Bot στο σύστημα, ο προγραμματιστής το κατασκεύασε σκόπιμα για να φθείρεται και να πεθαίνει, για εξοικονόμηση λειτουργικών δαπανών.
Ο Barbeau έπρεπε να είναι συνετός με το χρόνο του με την Jessica και σταμάτησε να αλληλεπιδρά με το chatbot προτού η μπαταρία του εξαντληθεί πολύ, ώστε να μην χρειαστεί να αντιμετωπίσει άμεσα μια άλλη μορφή θανάτου.
Σε ορισμένες περιπτώσεις, οι προγραμματιστές μπορεί να θέλουν να πιστεύουν ότι τα chatbots μπορούν να συνεχιστούν επ ‘αόριστον, βοηθώντας τους νεκρούς να αντικαταστήσουν εντελώς τους ζωντανούς εργάτες. Για παράδειγμα, η απεργία της ένωση Αμερικανών ηθοποιών εγείρει ερωτήματα σχετικά με τα δικαιώματα της προσωπικότητας των νεκρών, καθώς η τεχνητή νοημοσύνη μπορεί ενδεχομένως να χρησιμοποιηθεί για να αναβιώσει νεκρούς ηθοποιούς.
Παρόμοια ζητήματα έχουν ήδη γίνει με διάφορες deepfake εκδοχές νεκρών διασημοτήτων, συμπεριλαμβανομένης της αμφιλεγόμενης χρήσης της βαθιάς ψεύτικης φωνής του Anthony Bourdain σε ένα ντοκιμαντέρ για τη ζωή του, και σε μια πιο συνηθισμένη περίπτωση χαμηλής τεχνολογίας, ηχογραφημένες διαλέξεις ενός καθηγητή που του επιτρέπουν να συνεχίσει να εργάζεται σε πανεπιστήμιο μετά τον θάνατό του.
Αλλά τέτοιες αναδημιουργίες, εκτός από το να βλάψουν δυνητικά τους ζωντανούς εργάτες, μπορεί επίσης να αναστατώσουν τα αγαπημένα εν ζωή πρόσωπα των νεκρών και να τους προκαλέσουν νέους γραφειοκρατικούς πονοκεφάλους καθώς προσπαθούν να αναζητήσουν τον έλεγχο των αντιγράφων των νεκρών μελών της οικογένειάς τους.
Οι ψηφιακές εκδόσεις τεχνητής νοημοσύνης των ανθρώπων ενδέχεται να δημιουργηθούν χωρίς τη γνώση ή τη συγκατάθεση των ζωντανών συγγενών τους.
Η ψηφιακή ανάσταση των νεκρών μέσω της τεχνητής νοημοσύνης αποκαλύπτει τις σχέσεις ισχύος, τις υποδομές και τη δικτυωμένη εργασία πίσω από όλες τις μορφές ψηφιακής παραγωγής.
Μπορούμε να δημιουργήσουμε αληθινά αντίγραφα των νεκρών, αλλά αυτά τα αντίγραφα βασίζονται στη δουλειά των ζωντανών για να συνεχιστούν. Όπως συμβαίνει με τις ψηφιακές κληρονομιές γενικά, κάποιος πρέπει να πληρώσει για ονόματα τομέα, να διαγράψει μηνύματα ανεπιθύμητης αλληλογραφίας, να απαντήσει σε email σε νεκρούς λογαριασμούς, να ενημερώσει αρχεία και να τα μετακινήσει καθώς οι ιστότοποι και οι εταιρείες εξαφανίζονται.
Για εκείνους όμως που μένουν πίσω να νοιάζονται επ’ αόριστον για αυτές τις δημιουργίες, το ψυχολογικό κόστος μπορεί να είναι τεράστιο.
Με πληροφορίες από: Wired, CNET, The Guardian
