Το 1970, ένας 57χρονος άνδρας πέθανε από καρδιακή πάθηση στο σπίτι του στο Κουίνς της Νέας Υόρκης. Ήταν ο Fredric Kurzweil, ένας προικισμένος πιανίστας και μαέστρος, γεννημένος το 1912 στη Βιέννη. Όταν οι Ναζί εισέβαλαν στην Αυστρία το 1938, ένας Αμερικανός ευεργέτης ανέλαβε να τον βοηθήσει να μεταναστεύσει στις Ηνωμένες Πολιτείες, σώζοντάς του τη ζωή. Εκεί, ο Fred έγινε καθηγητής μουσικής και μαέστρος σε χορωδίες και ορχήστρες σε όλη τη χώρα.
Ο ίδιος είχε πάρει ελάχιστα πράγματα μαζί του όταν εγκατέλειψε την Ευρώπη, αλλά στην Αμερική φρόντισε να κρατήσει τα πάντα. Φύλαξε επίσημα έγγραφα, διαλέξεις, σημειώσεις, προγράμματα συναυλιών, αποκόμματα εφημερίδων, επιστολές και προσωπικά ημερολόγια. Ήταν η δική του προσωπική αρχή καταγραφής της μνήμης, μια προσπάθεια να διατηρήσει τον κόσμο του ανέπαφο μέσα από τις λέξεις και τα ντοκουμέντα της ζωής του.
Για 50 χρόνια μετά τον θάνατο του Fred, ο γιος του, Ray Kurzweil, διατήρησε αυτό το αρχείο σε μια αποθήκη. Το 2018, ο Ray συνεργάστηκε με την κόρη του, Amy, για να ψηφιοποιήσει όλο το γραπτό υλικό του πατέρα του. Στη συνέχεια, τροφοδότησε έναν αλγόριθμο με αυτά τα δεδομένα και δημιούργησε ένα chatbot που προσομοίωνε τη συνομιλία με τον πατέρα του – έναν πατέρα που είχε χάσει πολύ νωρίς και του έλειπε.
Αυτό το chatbot ήταν επιλεκτικό, δηλαδή απαντούσε μόνο με φράσεις που ο Fred είχε πραγματικά γράψει σε κάποια στιγμή της ζωής του. Μέσω αυτού, ο Ray μπορούσε να συνομιλεί με μια ψηφιακή αναπαράσταση του πατέρα του, μια εμπειρία που, όπως ο ίδιος δήλωσε, «έμοιαζε σαν να μιλάω πραγματικά μαζί του». Η Amy, η οποία γεννήθηκε μετά τον θάνατο του Fred, κατάφερε έτσι να «συναντήσει» έναν πρόγονο που ποτέ δεν είχε γνωρίσει.
“Fredbot” και τα chatbots των νεκρών: Το ψηφιακό παρελθόν ζωντανεύει
Ο “Fredbot” είναι ένα μόνο παράδειγμα από τη νέα γενιά τεχνολογιών που φέρνουν τους νεκρούς πίσω στη ζωή μέσω της Τεχνητής Νοημοσύνης. Παρόμοιες περιπτώσεις υπάρχουν πολλές:
🔹 Το 2016, η προγραμματίστρια Eugenia Kuyda δημιούργησε ένα chatbot από τα παλιά μηνύματα του φίλου της, Roman Mazurenko, ο οποίος σκοτώθηκε σε τροχαίο δυστύχημα. Η πρώτη έκδοση του “Roman Bot” ήταν επιλεκτική, όπως το Fredbot, αλλά μεταγενέστερες εκδοχές έγιναν γενετικές, δηλαδή μπορούσαν να δημιουργούν νέες απαντήσεις με το ύφος του Roman.
🔹 Το 2020, η καλλιτέχνιδα Laurie Anderson χρησιμοποίησε τα γραπτά και τους στίχους του συζύγου της, Lou Reed, συνιδρυτή των Velvet Underground, για να δημιουργήσει ένα ψηφιακό AI-συνεργάτη με τον οποίο μπορούσε να αλληλεπιδράσει δημιουργικά.
🔹 Το 2021, ο δημοσιογράφος James Vlahos παρουσίασε την εφαρμογή HereAfter AI, μέσω της οποίας οποιοσδήποτε μπορεί να δημιουργήσει ένα chatbot βασισμένο στις μνήμες αγαπημένων προσώπων.
Πλέον, πολλές εταιρείες δραστηριοποιούνται στον τομέα της “ψηφιακής μνήμης”, με projects όπως το Life Story AI, Project Infinite Life και Project December να επιχειρούν να επαναπροσδιορίσουν τον τρόπο που θυμόμαστε και αλληλεπιδρούμε με το παρελθόν.
Μνήμη ή ψηφιακή δυστοπία; Τα ηθικά διλήμματα
Αυτές οι τεχνολογίες συνδυάζουν την Τεχνητή Νοημοσύνη με τα δεδομένα που αφήνουμε πίσω μας. Καθώς τα μεγάλα γλωσσικά μοντέλα εξελίσσονται και οι προσωπικές μας πληροφορίες αποθηκεύονται μόνιμα στο cloud, αυτά τα chatbots των νεκρών θα γίνουν όλο και πιο εξελιγμένα και προσιτά.
Αλλά τι σημαίνει αυτό για εμάς;
🔹 Για κάποιους, είναι εργαλεία θρήνου και μνήμης που βοηθούν τους ανθρώπους να αντιμετωπίσουν την απώλεια και να κρατήσουν ζωντανή την παρουσία των αγαπημένων τους.
🔹 Για άλλους, είναι ψυχρές, απρόσωπες τεχνολογίες που δημιουργούν έναν δυστοπικό κόσμο, όπου η ανθρώπινη απουσία αντικαθίσταται από προσομοιώσεις.
Αυτά τα συστήματα εγείρουν βαθιά ηθικά ερωτήματα:
Ποιος έχει το δικαίωμα να δημιουργεί, να ελέγχει ή να κερδίζει χρήματα από την “ψηφιακή ανάσταση” των ανθρώπων;
Τι συμβαίνει όταν αυτά τα chatbots διαστρεβλώνουν το παρελθόν;
Μήπως απλά καλύπτουν το πένθος, αντί να το θεραπεύουν;
Ή υπάρχει κάτι πραγματικά πολύτιμο στην αλληλεπίδραση με μια προσομοίωση των νεκρών;
Ο κόσμος της Τεχνητής Νοημοσύνης μάς φέρνει αντιμέτωπους με νέα όρια της μνήμης, της ταυτότητας και της σχέσης μας με τον χρόνο. Το ερώτημα είναι αν είμαστε έτοιμοι να ζήσουμε σε έναν κόσμο όπου οι νεκροί δεν σιωπούν ποτέ πραγματικά.
Chatbots και η ψευδαίσθηση της νοημοσύνης: Από την ELIZA στα chatbots των νεκρών
Από την αρχή της ύπαρξής τους, τα chatbots ήταν συνδεδεμένα με την ψευδαίσθηση και την καχυποψία. Ένα από τα πρώτα και πιο γνωστά chatbots, η ELIZA, δημιουργήθηκε τη δεκαετία του 1960 από τον καθηγητή του MIT, Joseph Weizenbaum, έναν πρωτοπόρο της πληροφορικής που αργότερα έγινε από τους πιο έντονους επικριτές της Τεχνητής Νοημοσύνης. Ο ίδιος περιέγραφε την AI ως “δείκτη της τρέλας του κόσμου μας”.
Η ELIZA είχε σχεδιαστεί για να μιμείται έναν ψυχοθεραπευτή, χρησιμοποιώντας έναν απλό μηχανισμό εντοπισμού λέξεων-κλειδιών και προκαθορισμένων απαντήσεων, ώστε να κάνει ερωτήσεις που προέτρεπαν τον χρήστη να εκφραστεί και να αναστοχαστεί. Αν και πρωτόγονη σε σχέση με τα σημερινά δεδομένα, οι άνθρωποι τη βρήκαν εντυπωσιακή. Χαρακτηριστικό είναι το περιστατικό όπου η γραμματέας του Weizenbaum ζήτησε να μείνει μόνη της με την ELIZA. Ο καθηγητής θεώρησε ότι αυτό ήταν απόδειξη πως πίστεψε, λανθασμένα, ότι το chatbot είχε συνείδηση.
Αυτή η εμπειρία έκανε τον Weizenbaum να συνειδητοποιήσει ότι ακόμη και τα πιο απλά chatbots μπορούν να προκαλέσουν ισχυρές ψευδαισθήσεις σε κατά τα άλλα φυσιολογικούς ανθρώπους.
Σήμερα, τα chatbots δεν βασίζονται πλέον σε προκαθορισμένους κανόνες, αλλά χρησιμοποιούν μηχανική μάθηση για να αναλύουν δεδομένα, να προσαρμόζουν τις απαντήσεις τους και να διατηρούν τη ροή της συνομιλίας. Είναι πλέον ικανά να παρακολουθούν το πλαίσιο, να κάνουν λογικές συνδέσεις και να διαχειρίζονται πολύπλοκες συνομιλίες, δημιουργώντας μια εμπειρία επικοινωνίας που μπορεί να μοιάζει εξαιρετικά ανθρώπινη.
Παρόλο που τα chatbots υπάρχουν εδώ και δεκαετίες, τα chatbots των νεκρών είναι μια σχετικά πρόσφατη καινοτομία, η οποία έγινε εφικτή χάρη στις προηγμένες τεχνικές προγραμματισμού και την εκρηκτική αύξηση των προσωπικών δεδομένων που αφήνουμε πίσω μας.
Σε βασικό επίπεδο, αυτά τα chatbots δημιουργούνται συνδυάζοντας τη μηχανική μάθηση με προσωπικά κείμενα, όπως μηνύματα, emails, επιστολές και ημερολόγια. Τα δεδομένα αυτά καταγράφουν το προσωπικό ύφος, τη σύνταξη, τις απόψεις και τις ιδιομορφίες ενός ανθρώπου, επιτρέποντας σε ένα chatbot να μιλά με μια φωνή που θυμίζει τον εκλιπόντα.
Υπάρχουν διάφοροι τρόποι για να επιτευχθεί αυτό:
🔹 Η πιο απαιτητική μέθοδος περιλαμβάνει την εκπαίδευση ενός νέου γλωσσικού μοντέλου αποκλειστικά με τα προσωπικά γραπτά ενός ατόμου. Αυτή η διαδικασία απαιτεί μεγάλη υπολογιστική ισχύ και εξειδικευμένους πόρους.
🔹 Μια πιο απλή μέθοδος είναι να δοθούν προσωπικά δεδομένα σε ένα ήδη προεκπαιδευμένο chatbot (όπως το ChatGPT) μέσα στο context window της συνομιλίας, επιτρέποντάς του να μιλά με τρόπο που να θυμίζει τον συγκεκριμένο άνθρωπο.
Και στις δύο περιπτώσεις, το chatbot μπορεί να λειτουργεί είτε:
🔹 Επιλεκτικά: Παράγοντας μόνο προτάσεις που το συγκεκριμένο άτομο όντως έγραψε στη διάρκεια της ζωής του.
🔹 Γενετικά: Δημιουργώντας νέες προτάσεις που βασίζονται στο ύφος και τις ιδέες του, αλλά δεν ειπώθηκαν ποτέ από το ίδιο το άτομο.
🔹 Υβριδικά: Συνδυάζοντας τις δύο προσεγγίσεις, δημιουργώντας τόσο αυθεντικές όσο και πρωτότυπες φράσεις στο ύφος του εκλιπόντος.
Με αυτές τις τεχνολογίες, το ερώτημα που αναδύεται είναι αν επικοινωνούμε με τη μνήμη ενός ανθρώπου ή με μια ψηφιακή ψευδαίσθηση. Το μόνο βέβαιο είναι ότι η σχέση μας με τον θάνατο και την ανάμνηση δεν θα είναι ποτέ ξανά η ίδια.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Inst
Το 1970, ένας 57χρονος άνδρας πέθανε από καρδιακή πάθηση στο σπίτι του στο Κουίνς της Νέας Υόρκης. Ήταν ο Fredric Kurzweil, ένας προικισμένος πιανίστας και μαέστρος, γεννημένος το 1912 στη Βιέννη. Όταν οι Ναζί εισέβαλαν στην Αυστρία το 1938, ένας Αμερικανός ευεργέτης ανέλαβε να τον βοηθήσει να μεταναστεύσει στις Ηνωμένες Πολιτείες, σώζοντάς του τη ζωή. Εκεί, ο Fred έγινε καθηγητής μουσικής και μαέστρος σε χορωδίες και ορχήστρες σε όλη τη χώρα.
Ο ίδιος είχε πάρει ελάχιστα πράγματα μαζί του όταν εγκατέλειψε την Ευρώπη, αλλά στην Αμερική φρόντισε να κρατήσει τα πάντα. Φύλαξε επίσημα έγγραφα, διαλέξεις, σημειώσεις, προγράμματα συναυλιών, αποκόμματα εφημερίδων, επιστολές και προσωπικά ημερολόγια. Ήταν η δική του προσωπική αρχή καταγραφής της μνήμης, μια προσπάθεια να διατηρήσει τον κόσμο του ανέπαφο μέσα από τις λέξεις και τα ντοκουμέντα της ζωής του.
Για 50 χρόνια μετά τον θάνατο του Fred, ο γιος του, Ray Kurzweil, διατήρησε αυτό το αρχείο σε μια αποθήκη. Το 2018, ο Ray συνεργάστηκε με την κόρη του, Amy, για να ψηφιοποιήσει όλο το γραπτό υλικό του πατέρα του. Στη συνέχεια, τροφοδότησε έναν αλγόριθμο με αυτά τα δεδομένα και δημιούργησε ένα chatbot που προσομοίωνε τη συνομιλία με τον πατέρα του – έναν πατέρα που είχε χάσει πολύ νωρίς και του έλειπε.
Αυτό το chatbot ήταν επιλεκτικό, δηλαδή απαντούσε μόνο με φράσεις που ο Fred είχε πραγματικά γράψει σε κάποια στιγμή της ζωής του. Μέσω αυτού, ο Ray μπορούσε να συνομιλεί με μια ψηφιακή αναπαράσταση του πατέρα του, μια εμπειρία που, όπως ο ίδιος δήλωσε, «έμοιαζε σαν να μιλάω πραγματικά μαζί του». Η Amy, η οποία γεννήθηκε μετά τον θάνατο του Fred, κατάφερε έτσι να «συναντήσει» έναν πρόγονο που ποτέ δεν είχε γνωρίσει.
“Fredbot” και τα chatbots των νεκρών: Το ψηφιακό παρελθόν ζωντανεύει
Ο “Fredbot” είναι ένα μόνο παράδειγμα από τη νέα γενιά τεχνολογιών που φέρνουν τους νεκρούς πίσω στη ζωή μέσω της Τεχνητής Νοημοσύνης. Παρόμοιες περιπτώσεις υπάρχουν πολλές:
🔹 Το 2016, η προγραμματίστρια Eugenia Kuyda δημιούργησε ένα chatbot από τα παλιά μηνύματα του φίλου της, Roman Mazurenko, ο οποίος σκοτώθηκε σε τροχαίο δυστύχημα. Η πρώτη έκδοση του “Roman Bot” ήταν επιλεκτική, όπως το Fredbot, αλλά μεταγενέστερες εκδοχές έγιναν γενετικές, δηλαδή μπορούσαν να δημιουργούν νέες απαντήσεις με το ύφος του Roman.
🔹 Το 2020, η καλλιτέχνιδα Laurie Anderson χρησιμοποίησε τα γραπτά και τους στίχους του συζύγου της, Lou Reed, συνιδρυτή των Velvet Underground, για να δημιουργήσει ένα ψηφιακό AI-συνεργάτη με τον οποίο μπορούσε να αλληλεπιδράσει δημιουργικά.
🔹 Το 2021, ο δημοσιογράφος James Vlahos παρουσίασε την εφαρμογή HereAfter AI, μέσω της οποίας οποιοσδήποτε μπορεί να δημιουργήσει ένα chatbot βασισμένο στις μνήμες αγαπημένων προσώπων.
Πλέον, πολλές εταιρείες δραστηριοποιούνται στον τομέα της “ψηφιακής μνήμης”, με projects όπως το Life Story AI, Project Infinite Life και Project December να επιχειρούν να επαναπροσδιορίσουν τον τρόπο που θυμόμαστε και αλληλεπιδρούμε με το παρελθόν.
Μνήμη ή ψηφιακή δυστοπία; Τα ηθικά διλήμματα
Αυτές οι τεχνολογίες συνδυάζουν την Τεχνητή Νοημοσύνη με τα δεδομένα που αφήνουμε πίσω μας. Καθώς τα μεγάλα γλωσσικά μοντέλα εξελίσσονται και οι προσωπικές μας πληροφορίες αποθηκεύονται μόνιμα στο cloud, αυτά τα chatbots των νεκρών θα γίνουν όλο και πιο εξελιγμένα και προσιτά.
Αλλά τι σημαίνει αυτό για εμάς;
🔹 Για κάποιους, είναι εργαλεία θρήνου και μνήμης που βοηθούν τους ανθρώπους να αντιμετωπίσουν την απώλεια και να κρατήσουν ζωντανή την παρουσία των αγαπημένων τους.
🔹 Για άλλους, είναι ψυχρές, απρόσωπες τεχνολογίες που δημιουργούν έναν δυστοπικό κόσμο, όπου η ανθρώπινη απουσία αντικαθίσταται από προσομοιώσεις.
Αυτά τα συστήματα εγείρουν βαθιά ηθικά ερωτήματα:
Ποιος έχει το δικαίωμα να δημιουργεί, να ελέγχει ή να κερδίζει χρήματα από την “ψηφιακή ανάσταση” των ανθρώπων;
Τι συμβαίνει όταν αυτά τα chatbots διαστρεβλώνουν το παρελθόν;
Μήπως απλά καλύπτουν το πένθος, αντί να το θεραπεύουν;
Ή υπάρχει κάτι πραγματικά πολύτιμο στην αλληλεπίδραση με μια προσομοίωση των νεκρών;
Ο κόσμος της Τεχνητής Νοημοσύνης μάς φέρνει αντιμέτωπους με νέα όρια της μνήμης, της ταυτότητας και της σχέσης μας με τον χρόνο. Το ερώτημα είναι αν είμαστε έτοιμοι να ζήσουμε σε έναν κόσμο όπου οι νεκροί δεν σιωπούν ποτέ πραγματικά.
Chatbots και η ψευδαίσθηση της νοημοσύνης: Από την ELIZA στα chatbots των νεκρών
Από την αρχή της ύπαρξής τους, τα chatbots ήταν συνδεδεμένα με την ψευδαίσθηση και την καχυποψία. Ένα από τα πρώτα και πιο γνωστά chatbots, η ELIZA, δημιουργήθηκε τη δεκαετία του 1960 από τον καθηγητή του MIT, Joseph Weizenbaum, έναν πρωτοπόρο της πληροφορικής που αργότερα έγινε από τους πιο έντονους επικριτές της Τεχνητής Νοημοσύνης. Ο ίδιος περιέγραφε την AI ως “δείκτη της τρέλας του κόσμου μας”.
Η ELIZA είχε σχεδιαστεί για να μιμείται έναν ψυχοθεραπευτή, χρησιμοποιώντας έναν απλό μηχανισμό εντοπισμού λέξεων-κλειδιών και προκαθορισμένων απαντήσεων, ώστε να κάνει ερωτήσεις που προέτρεπαν τον χρήστη να εκφραστεί και να αναστοχαστεί. Αν και πρωτόγονη σε σχέση με τα σημερινά δεδομένα, οι άνθρωποι τη βρήκαν εντυπωσιακή. Χαρακτηριστικό είναι το περιστατικό όπου η γραμματέας του Weizenbaum ζήτησε να μείνει μόνη της με την ELIZA. Ο καθηγητής θεώρησε ότι αυτό ήταν απόδειξη πως πίστεψε, λανθασμένα, ότι το chatbot είχε συνείδηση.
Αυτή η εμπειρία έκανε τον Weizenbaum να συνειδητοποιήσει ότι ακόμη και τα πιο απλά chatbots μπορούν να προκαλέσουν ισχυρές ψευδαισθήσεις σε κατά τα άλλα φυσιολογικούς ανθρώπους.
Σήμερα, τα chatbots δεν βασίζονται πλέον σε προκαθορισμένους κανόνες, αλλά χρησιμοποιούν μηχανική μάθηση για να αναλύουν δεδομένα, να προσαρμόζουν τις απαντήσεις τους και να διατηρούν τη ροή της συνομιλίας. Είναι πλέον ικανά να παρακολουθούν το πλαίσιο, να κάνουν λογικές συνδέσεις και να διαχειρίζονται πολύπλοκες συνομιλίες, δημιουργώντας μια εμπειρία επικοινωνίας που μπορεί να μοιάζει εξαιρετικά ανθρώπινη.
Παρόλο που τα chatbots υπάρχουν εδώ και δεκαετίες, τα chatbots των νεκρών είναι μια σχετικά πρόσφατη καινοτομία, η οποία έγινε εφικτή χάρη στις προηγμένες τεχνικές προγραμματισμού και την εκρηκτική αύξηση των προσωπικών δεδομένων που αφήνουμε πίσω μας.
Σε βασικό επίπεδο, αυτά τα chatbots δημιουργούνται συνδυάζοντας τη μηχανική μάθηση με προσωπικά κείμενα, όπως μηνύματα, emails, επιστολές και ημερολόγια. Τα δεδομένα αυτά καταγράφουν το προσωπικό ύφος, τη σύνταξη, τις απόψεις και τις ιδιομορφίες ενός ανθρώπου, επιτρέποντας σε ένα chatbot να μιλά με μια φωνή που θυμίζει τον εκλιπόντα.
Υπάρχουν διάφοροι τρόποι για να επιτευχθεί αυτό:
🔹 Η πιο απαιτητική μέθοδος περιλαμβάνει την εκπαίδευση ενός νέου γλωσσικού μοντέλου αποκλειστικά με τα προσωπικά γραπτά ενός ατόμου. Αυτή η διαδικασία απαιτεί μεγάλη υπολογιστική ισχύ και εξειδικευμένους πόρους.
🔹 Μια πιο απλή μέθοδος είναι να δοθούν προσωπικά δεδομένα σε ένα ήδη προεκπαιδευμένο chatbot (όπως το ChatGPT) μέσα στο context window της συνομιλίας, επιτρέποντάς του να μιλά με τρόπο που να θυμίζει τον συγκεκριμένο άνθρωπο.
Και στις δύο περιπτώσεις, το chatbot μπορεί να λειτουργεί είτε:
🔹 Επιλεκτικά: Παράγοντας μόνο προτάσεις που το συγκεκριμένο άτομο όντως έγραψε στη διάρκεια της ζωής του.
🔹 Γενετικά: Δημιουργώντας νέες προτάσεις που βασίζονται στο ύφος και τις ιδέες του, αλλά δεν ειπώθηκαν ποτέ από το ίδιο το άτομο.
🔹 Υβριδικά: Συνδυάζοντας τις δύο προσεγγίσεις, δημιουργώντας τόσο αυθεντικές όσο και πρωτότυπες φράσεις στο ύφος του εκλιπόντος.
Με αυτές τις τεχνολογίες, το ερώτημα που αναδύεται είναι αν επικοινωνούμε με τη μνήμη ενός ανθρώπου ή με μια ψηφιακή ψευδαίσθηση. Το μόνο βέβαιο είναι ότι η σχέση μας με τον θάνατο και την ανάμνηση δεν θα είναι ποτέ ξανά η ίδια.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Inst
