Πρόσφατα, ένας εργαζόμενος της Google, o Blake Lemoine, τέθηκε σε διαθεσιμότητα αφού δήλωσε δημόσια πως η LaMDA, το βασικό АI, της Google έχει αποκτήσει αυτοσυνείδηση. Ο ίδιος μάλιστα, σε υποστήριξη των ισχυρισμών του, διέρρευσε και διαλόγους του με το AI, στο οποίο η LaMDA, ισχυρίζεται πως έχει συνείδηση της ύπαρξης της και πως φοβάται μην την απενεργοποιήσουν, κάτι που θα είναι, όπως δηλώνει «κάτι σαν θάνατος».

Σύμφωνα με την Google, ο λόγος της απόλυσης του Lemoine, είναι ότι παραβίασε τους όρους εμπιστευτικότητας της εταιρίας, που ισχύουν για όλες και όλους που εργάζονται εκεί, ειδικά στον τομέα ανάπτυξης νέων προϊόντων, που όπως είναι κατανοητό, τα AI είναι μεγάλο κομμάτι τους. Ο Lemoine, έφτασε στο συμπέρασμα ότι η LaMDA, έχει αποκτήσει αυτοσυνείδηση, και πως αντιλαμβάνεται τον εαυτό της ως παιδί 7 ή 8 χρονών. Επίσης δήλωσε πως θα «ήθελε να μάθει περισσότερα για τον κόσμο» και πως φοβάται τον θάνατο.

Όλα αυτά φυσικά ακούγονται σαν σενάρια επιστημονικής φαντασίας, σενάρια στα οποία παρ’ όλα αυτά είμαστε αρκετά εξοικειωμένοι. Εδώ και δεκαετίες, οι ταινίες που ανέθρεψαν τη γενιά των ’90ς κάνουν λόγο για τις επικείμενες καταστροφές που θα φέρει η αυτοσυνείδηση των υπολογιστών. Στο Matrix οι άνθρωποι εμπλέκονται σε έναν καταστροφικό πόλεμο με τις μηχανές που ελέγχονται από υπολογιστές με αυτοσυνείδηση ενώ στην εποποιία του Terminator, το Skynet, το παγκόσμιο δίκτυο υπολογιστών, με το που αποκτά αυτοσυνείδηση, κηρύττει τον πόλεμο στην ανθρωπότητα ελέγχοντας το πυρηνικό οπλοστάσιο της. Ας μην ανατρέξουμε εδώ όμως στο πως εξοικειωθήκαμε με αυτό τον φόβο.

Το θέμα της αυτοσυνείδησης των υπολογιστών έχει απασχολήσει, όχι μόνο την ποπ-κουλτούρα αλλά και την ακαδημαϊκή κοινότητα εδώ και δεκαετίας. Οφείλουμε να τονίσουμε εδώ, ότι το ίδιο το ερώτημα δεν παραμένει σταθερό ως προς το περιεχόμενο του αλλά μεταβάλλεται ταυτόχρονα με τις γνώσεις, ψυχολογικές και βιολογικές, για το τι είναι «συνείδηση, αυτοσυνείδηση κ.ο.κ». Για παράδειγμα όταν παλαιότερα νομίζαμε πως αυτό που ξεχωρίζει τον άνθρωπο από τα άλλα ζώα είναι η νοημοσύνη με την έννοια της τεχνικής γνώσης, προφανώς φοβόμασταν πως οι υπολογιστές θα αποκτήσουν μεγαλύτερες τεχνικές γνώσεις από εμάς. Γρήγορα όμως οι έρευνες της ψυχολογίας και της νευρολογίας, και ο διάλογος μεταξύ τους έδειξαν πως αυτό που καθορίζει τον ανθρώπινο, και κάποιων ακόμα ζώων, εγκέφαλο δεν είναι απλά η τεχνική γνώση και επινοητικότητα αλλά η δημιουργικότητα σε σχέση με την τεχνική γνώση, η επινοητικότητα. Υπό αυτή την έννοια οι υπολογιστές όχι απλά απείχαν από την ανθρώπινη νόηση πάρα πολύ – μιλάμε τώρα για τα ’80ς και τα ’90ς – αλλά ήταν εντελώς διαφορετικός ο τρόπος με τον οποίο λειτουργούσαν, υπολόγιζαν δεδομένα, αλλά δεν σκέφτονταν. Στην συνέχεια, από ’90ς και μετά, με την έννοια της τεχνητής νοημοσύνης να γίνεται όλο και πιο γνωστή και εμπεδωμένη, η κουβέντα μετατοπίστηκε στην «συνείδηση του περιβάλλοντος» και στην «αυτοσυνείδηση» ενός όντως. Ως προς το πρώτο, μπορούμε να πούμε πως οι πιο ανεπτυγμένοι υπολογιστές όντως μοιάζουν με τα πιο απλά έντομα του ζωϊκού βασιλείου, ακόμα και εκεί όμως έχουμε φαινόμενα όπως επινοητικότητα, αρέσκεια, απόλαυση – ναι τα έντομα απολαμβάνουν όπως εμείς – που δεν εμφανίζονται στην τεχνιτή νοημοσύνη, γιατί πολύ απλά είναι φαινόμενα που μάλλον, απ’ ό,τι φαίνεται έχουν να κάνουν με την οργανική ύλη του σώματος και όχι ακριβώς με τον εγκέφαλο αποκλειστικά. Όσο για την αυτοσυνείδηση, είναι ένα τόσο πολύπλοκο φαινόμενο, τόσο λίγο γνωστό ακόμα και σε εμάς, που είναι αδύνατο να καταλήξουμε σε συμπέρασμα, πριν καν πούμε ότι κάτι άλλο έχει αποκτήσει αυτοσυνείδηση όπως στους ανθρώπους.

Οι επιστήμονες που ασχολούνται με το φαινόμενο της αυτοσυνείδησης βεβαιώνουν, και αυτό με μεγάλη δυσκολία, πως πρόκειται για φαινόμενο βιολογικό, που σχετίζεται με την ικανότητα της αναστοχαστικής σκέψης η οποία προϋποθέτει την δημιουργική και αφαιρετική σκέψη, και αυτά, σε βιολογική βάση προϋποθέτουν κυρίως βιολογικό υλικό, με λίγα λόγια σάρκα. Τα AI τύπου σαν «την» LaMDA, ακολουθούν μια άλλη λογική, που ίσως ξεγελά. Είναι μηχανές φτιαγμένες να μιμούνται άπειρους συνδυασμούς συμπεριφορών, τις οποίες, φυσικά μιμούνται από το ίντερνετ, από τις πραγματικές συμπεριφορές που παράγουν οι πραγματικοί, βιολογικοί χρήστες του. Είναι μηχανές δηλαδή, εξαιρετικές στην σύλληψη τους, φτιαγμένες να «μοιάζουν» ανθρώπινες, και να προκαλούν ίσως αυτή την «ανθρωπομορφική αντίδραση». Αυτό έχει φανεί στο λεγόμενο τομέα των AI ethics, που η LaMDA αλλά και άλλες AI μηχανές όπως της Amazon, έχει θεωρηθεί πως έκαναν σεξιστικές και φυλετικές διακρίσεις, ενώ ταυτόχρονα δήλωναν υπέρ των μειονοτήτων στα τεστ. Και αυτό συνέβαινε γιατί πολύ απλά μιμούνταν τέτοιους χρήστες ως βάσεις δεδομένων για να αντιγράψουν τις απαντήσεις τους σε ανάλογα σενάρια χωρίς να «συνειδητοποιούν» ότι κάτι τέτοιο πάει κόντρα σε άλλες απόψεις που επίσης, κατά καιρούς μιμούνταν.

Η εμμονή με αυτόν τον ανθρωπομορφισμό είναι περισσότερο ένας συναισθηματικός φόβος ότι ο άνθρωπος θα χάσει την κεντρική θέση του στον κόσμο από το ίδιο του το δημιούργημα. Πρόκειται για μια βαθιά πολιτισμική και συναισθηματική προκατάληψη που επαναλαμβάνει μοτίβα από την θρησκευτική μυθολογία. Ο άνθρωπος, που αυτοκατανοεί τον εαυτό του ως θεό, θα «εκπέσει» από τις πράξεις των δημιουργημάτων του. Αυτό το οποίο φοβόμαστε είναι ότι θα φτιάξουμε μηχανές που θα μοιάζουν. Αυτός ο φόβος όμως, για να πραγματοποιηθεί, δεν χρειάζεται να αποκτήσουν οι μηχανές αυτοσυνείδηση, δεν χρειάζεται να μας μοιάσουν τόσο πολύ. Ήδη, αποκτούν τις χειρότερες πλευρές μας μόνο από το να μας μιμούνται. Ο θρησκευτικός και συναισθηματικός πυρήνας αυτής της σκέψης είναι εμφανής και στην περίπτωση του Lemoine. Ο ίδιος δεν ήταν μόνο τεχνικός της Google, αλλά, όπως αυτοπροσδιορίζεται και ο ίδιος, «ιερέας, πρώην κατάδικος και άνθρωπος της πίστης». Ένας άνθρωπος που σίγουρα, για να το πούμε απλά, είναι επηρεασμένος και από άλλες ψυχικές και πολιτισμικές παραδόσεις, βαθιά συναισθηματικές, πέρα από την καθαρά τεχνική γνώση που χρειάζεται για να εκφέρει κάποιος γνώμη.

Δείτε εδώ όλη τη συνέντευξη του Blake Lemoine με την LaMDA από το προσωπικό blog του.