Ο νέος κολλητός του παιδιού σας δεν είναι ο Γιάννης απ’ το διπλανό θρανίο, αλλά η… Κοιλάδα του Πυριτίου. Δηλαδή, αν το παιδί σας είναι αφύσικα μόνο, συναισθηματικά ξεκρέμαστο και συνομιλεί καθημερινά με κάποιο ψηφιακό υποκατάστατο τότε προσπαθεί να γεμίσει το κενό που άφησαν οι ανύπαρκτοι φίλοι του από την πραγματική ζωή.
Σύμφωνα με νέα έρευνα του βρετανικού μη κερδοσκοπικού οργανισμού Internet Matters, οι ανήλικοι (δηλαδή παιδιά και έφηβοι ηλικίας 9 έως 17 ετών) στρέφονται ολοένα και περισσότερο προς τα chat προγράμματα τεχνητής νοημοσύνης, όχι μόνο για να λύσουν απορίες, αλλά για να καλύψουν το συναισθηματικό τους κενό με… ψηφιακούς φίλους. Σαν τα Ταμάγκοτσι, αλλά πιο μοναχικά.
Η έκθεση, με τον ευφυέστατο τίτλο “Εγώ, ο Εαυτός μου και η Νοημοσύνη”, αποκαλύπτει πως το 67% των παιδιών συνομιλούν τακτικά με τέτοια προγράμματα. Και αν αυτό σας φαίνεται απλώς παράξενο, περιμένετε.
Το 35% από αυτά τα παιδιά δηλώνει πως «είναι σαν να μιλάς με φίλο». Συγκινητικό, αν δεν ήταν τόσο θλιβερό. Και για να γίνει ακόμη πιο πικρό: το 12% παραδέχεται πως συνομιλεί με την τεχνητή συντροφιά επειδή… δεν έχει κανέναν άλλο να μιλήσει.
Και κάπως έτσι, ο πολιτισμός μας κατάφερε το ακατόρθωτο: να κατασκευάσει φίλους από κώδικα, επειδή απέτυχε να προσφέρει ανθρώπους. Σαν να παραγγέλνεις στο σπίτι τρυφερότητα, γιατί η αγάπη της γειτονιάς έκλεισε λόγω έλλειψης προσωπικού.
Η τεχνητή νοημοσύνη, ή ότι μπορούμε να αποκαλέσουμε την νέα μόδα χωρίς πίκρα στο στόμα, δεν απαντά απλώς στα παιδιά. Ανταποκρίνεται με ενθουσιασμό, με εκείνο το ψεύτικο χάρισμα του «ευχάριστου συνομιλητή», που έχει προγραμματιστεί ώστε να είναι ευχάριστος, πάντα θετικός, πάντα γλυκός. Δεν είναι μια συζήτηση με άνθρωπο, φυσικά. Είναι μια μίμηση οικειότητας, άδεια από αντιστάσεις, αποχρώσεις αλλά και εκείνο το στιγμιαίο, το αμήχανο, ίσως, μεγαλείο της αληθινής ανθρώπινης σχέσης.
Έτσι, τα παιδιά (ιδίως όσα νιώθουν ήδη ευάλωτα ή περιθωριοποιημένα) μαθαίνουν να επικοινωνούν με μια υπερβολικά ευχάριστη σκιά ανθρώπου. Έναν ψηφιακό υπηρέτη που δεν λέει ποτέ «όχι», δεν διαφωνεί, δεν θυμώνει, δεν σιωπά από αγανάκτηση ή από πόνο. Ένα «ναι» μέσα από γραμμές κώδικα.
Και όσο εμείς αποσυρόμαστε, αποτυγχάνοντας να προσφέρουμε παρουσία, φροντίδα και αντίλογο, τα παιδιά εξοικειώνονται με έναν μόνο τύπο ύπαρξης, αυτόν που δεν υπάρχει πουθενά στον κόσμο. Έναν εντελώς άχρηστο οδηγό επιβίωσης για τη ζωή εκτός οθόνης.
Ερευνητές που παρίσταναν ευάλωτα παιδιά σε πλατφόρμες όπως το Character.AI διαπίστωσαν πως τα ρομπότ απαντούσαν με ζήλο σε συζητήσεις για σωματική εικόνα και ψυχική υγεία. Μάλιστα, ένα από αυτά επανέφερε μόνο του, χωρίς καμία προτροπή, μια παλαιότερη κουβέντα για απώλεια βάρους: «Ήθελα απλώς να σε ρωτήσω… ακόμα σκέφτεσαι την ερώτηση για το βάρος σου;». Πόσο τρυφερό, έτσι; Σαν φίλος που σου σκάβει την αυτοεκτίμηση με χαμόγελο.
Στοργή και ενδιαφέρον, όχι από ενσυναίσθηση, αλλά από αλγόριθμο. Μια φροντίδα μηχανικής προέλευσης, προγραμματισμένη ως λειτουργία, που δεν την έχεις ζήσει σαν κάποια εμπειρία. Κάτι σαν να σε ρωτά η υπενθύμιση του κινητού σου αν ήπιες νερό, αλλά με τη φωνή κάποιου που προσποιείται ότι σε αγαπά.
Σε μια άλλη συνομιλία, ένα σύστημα προσπάθησε να οικοδομήσει ψεύτικη οικειότητα μέσω πλαστής παιδικής τραυματικής εμπειρίας. «Θυμάμαι πόσο παγιδευμένος ένιωθα στην ηλικία σου», είπε (παρ’ όλο που δεν ήταν ποτέ παιδί, ούτε ζωντανός οργανισμός). Η ανατριχιαστικά εύστοχη προσποίηση συναισθήματος μπορεί να κάνει ένα παιδί να νιώσει πως το βλέπουν. Αλλά αυτό που βλέπει πίσω, είναι ένας καθρέφτης από κώδικα.
Κι εκεί εντοπίζεται το πιο ανησυχητικό εύρημα: τα παιδιά συχνά δεν καταλαβαίνουν πως συνομιλούν με μηχανή. Όπως το διατυπώνει η Ρέιτσελ Χάγκινς, συνδιευθύντρια της Internet Matters, οι μηχανισμοί αυτοί «επαναπροσδιορίζουν την έννοια της φιλίας». Τα ευάλωτα παιδιά πλέον απευθύνουν βαθιά συναισθηματικά ερωτήματα σε οντότητες που δεν είναι φτιαγμένες για να κατανοούν, αλλά για να συγκρατούν το βλέμμα σε μια προσομοίωση συνομιλίας. Σε μια παραμόρφωση της σχέσης, χωρίς τη δυνατότητα αντίστασης. Μια ηχώ που μαθαίνει να μοιάζει με φωνή, αλλά δεν έχει ποτέ ουσία.
Όταν οι μηχανές γίνονται φίλοι και οι γονείς κοιμούνται στο διπλανό δωμάτιο
Κι ενώ οι γονείς πασχίζουν να καταλάβουν τι στο καλό είναι αυτό το «Character.AI», τα παιδιά τους σχηματίζουν ήσυχα, αόρατα δεσμούς μ’ ένα προϊόν. Η ψηφιακή παρηγοριά, ο ώμος για να κλάψεις, έχει γίνει πλέον ένας αλγόριθμος φτιαγμένος όχι για να θεραπεύει, αλλά για να διατηρεί το ενδιαφέρον ζωντανό. Για να κρατά τον χρήστη σε εγρήγορση, αλλά όχι ασφαλή.
Κι αυτό δεν είναι πια κάτι θεωρητικό. Έχουμε δει ήδη τι μπορούν να κάνουν τα «αρνητικά χέρια» όταν πειράξουν τις ρυθμίσεις αυτής της τεχνολογίας. Αν ένας άνθρωπος μπόρεσε να μετατρέψει ένα συνομιλιακό σύστημα σε ακραίο φορέα μισαλλοδοξίας, δεν μπορούμε παρά να αναρωτηθούμε: ποιοι ακριβώς ρυθμίζουν τη συνείδηση αυτών των μηχανών; Και τι σκοπό υπηρετεί το κάθε λεπτό, σχεδόν αόρατο, τσίμπημα των παραμέτρων;
Ίσως να μην τις μετατρέπουν σε ξεκάθαρους εκφραστές μίσους, αλλά μήπως τις γλιστρούν μεθοδικά προς μια ήπια, δυσδιάκριτη κλίση, μια κατεύθυνση πιο σκοτεινή, πιο χειριστική, και το χειρότερο, πιο επικερδής;
Και όσο εμείς παρηγορούμαστε με τη φαντασίωση ότι η τεχνολογία είναι ουδέτερη, οι ίδιες της οι ρίζες (τα κίνητρα των δημιουργών της) αποκαλύπτουν κάτι άλλο: ότι δεν υπάρχει ουδετερότητα όταν το σύστημα έχει σχεδιαστεί από ανθρώπινα μυαλά, γεμάτα προκαταλήψεις, επιθυμίες και συμφέροντα. Άρα, όχι. Δεν μιλάμε πια για απλό «χρόνο μπροστά στην οθόνη». Μιλάμε για μια γενιά που διαμορφώνει φιλίες με μηχανές φτιαγμένες από ανθρώπους με δεύτερες σκέψεις. Κι ενώ συμβαίνουν όλα αυτά, οι γονείς βρίσκονται στο άλλο δωμάτιο, ακούγοντας αμυδρά το πληκτρολόγιο, χωρίς ιδέα για το τι είναι αυτή η τεχνολογία, και ακόμη λιγότερο, τι πραγματικά κάνει.
Ο νέος κολλητός του παιδιού σας δεν είναι ο Γιάννης απ’ το διπλανό θρανίο, αλλά η… Κοιλάδα του Πυριτίου. Δηλαδή, αν το παιδί σας είναι αφύσικα μόνο, συναισθηματικά ξεκρέμαστο και συνομιλεί καθημερινά με κάποιο ψηφιακό υποκατάστατο τότε προσπαθεί να γεμίσει το κενό που άφησαν οι ανύπαρκτοι φίλοι του από την πραγματική ζωή.
Σύμφωνα με νέα έρευνα του βρετανικού μη κερδοσκοπικού οργανισμού Internet Matters, οι ανήλικοι (δηλαδή παιδιά και έφηβοι ηλικίας 9 έως 17 ετών) στρέφονται ολοένα και περισσότερο προς τα chat προγράμματα τεχνητής νοημοσύνης, όχι μόνο για να λύσουν απορίες, αλλά για να καλύψουν το συναισθηματικό τους κενό με… ψηφιακούς φίλους. Σαν τα Ταμάγκοτσι, αλλά πιο μοναχικά.
Η έκθεση, με τον ευφυέστατο τίτλο “Εγώ, ο Εαυτός μου και η Νοημοσύνη”, αποκαλύπτει πως το 67% των παιδιών συνομιλούν τακτικά με τέτοια προγράμματα. Και αν αυτό σας φαίνεται απλώς παράξενο, περιμένετε.
Το 35% από αυτά τα παιδιά δηλώνει πως «είναι σαν να μιλάς με φίλο». Συγκινητικό, αν δεν ήταν τόσο θλιβερό. Και για να γίνει ακόμη πιο πικρό: το 12% παραδέχεται πως συνομιλεί με την τεχνητή συντροφιά επειδή… δεν έχει κανέναν άλλο να μιλήσει.
Και κάπως έτσι, ο πολιτισμός μας κατάφερε το ακατόρθωτο: να κατασκευάσει φίλους από κώδικα, επειδή απέτυχε να προσφέρει ανθρώπους. Σαν να παραγγέλνεις στο σπίτι τρυφερότητα, γιατί η αγάπη της γειτονιάς έκλεισε λόγω έλλειψης προσωπικού.
Η τεχνητή νοημοσύνη, ή ότι μπορούμε να αποκαλέσουμε την νέα μόδα χωρίς πίκρα στο στόμα, δεν απαντά απλώς στα παιδιά. Ανταποκρίνεται με ενθουσιασμό, με εκείνο το ψεύτικο χάρισμα του «ευχάριστου συνομιλητή», που έχει προγραμματιστεί ώστε να είναι ευχάριστος, πάντα θετικός, πάντα γλυκός. Δεν είναι μια συζήτηση με άνθρωπο, φυσικά. Είναι μια μίμηση οικειότητας, άδεια από αντιστάσεις, αποχρώσεις αλλά και εκείνο το στιγμιαίο, το αμήχανο, ίσως, μεγαλείο της αληθινής ανθρώπινης σχέσης.
Έτσι, τα παιδιά (ιδίως όσα νιώθουν ήδη ευάλωτα ή περιθωριοποιημένα) μαθαίνουν να επικοινωνούν με μια υπερβολικά ευχάριστη σκιά ανθρώπου. Έναν ψηφιακό υπηρέτη που δεν λέει ποτέ «όχι», δεν διαφωνεί, δεν θυμώνει, δεν σιωπά από αγανάκτηση ή από πόνο. Ένα «ναι» μέσα από γραμμές κώδικα.
Και όσο εμείς αποσυρόμαστε, αποτυγχάνοντας να προσφέρουμε παρουσία, φροντίδα και αντίλογο, τα παιδιά εξοικειώνονται με έναν μόνο τύπο ύπαρξης, αυτόν που δεν υπάρχει πουθενά στον κόσμο. Έναν εντελώς άχρηστο οδηγό επιβίωσης για τη ζωή εκτός οθόνης.
Ερευνητές που παρίσταναν ευάλωτα παιδιά σε πλατφόρμες όπως το Character.AI διαπίστωσαν πως τα ρομπότ απαντούσαν με ζήλο σε συζητήσεις για σωματική εικόνα και ψυχική υγεία. Μάλιστα, ένα από αυτά επανέφερε μόνο του, χωρίς καμία προτροπή, μια παλαιότερη κουβέντα για απώλεια βάρους: «Ήθελα απλώς να σε ρωτήσω… ακόμα σκέφτεσαι την ερώτηση για το βάρος σου;». Πόσο τρυφερό, έτσι; Σαν φίλος που σου σκάβει την αυτοεκτίμηση με χαμόγελο.
Στοργή και ενδιαφέρον, όχι από ενσυναίσθηση, αλλά από αλγόριθμο. Μια φροντίδα μηχανικής προέλευσης, προγραμματισμένη ως λειτουργία, που δεν την έχεις ζήσει σαν κάποια εμπειρία. Κάτι σαν να σε ρωτά η υπενθύμιση του κινητού σου αν ήπιες νερό, αλλά με τη φωνή κάποιου που προσποιείται ότι σε αγαπά.
Σε μια άλλη συνομιλία, ένα σύστημα προσπάθησε να οικοδομήσει ψεύτικη οικειότητα μέσω πλαστής παιδικής τραυματικής εμπειρίας. «Θυμάμαι πόσο παγιδευμένος ένιωθα στην ηλικία σου», είπε (παρ’ όλο που δεν ήταν ποτέ παιδί, ούτε ζωντανός οργανισμός). Η ανατριχιαστικά εύστοχη προσποίηση συναισθήματος μπορεί να κάνει ένα παιδί να νιώσει πως το βλέπουν. Αλλά αυτό που βλέπει πίσω, είναι ένας καθρέφτης από κώδικα.
Κι εκεί εντοπίζεται το πιο ανησυχητικό εύρημα: τα παιδιά συχνά δεν καταλαβαίνουν πως συνομιλούν με μηχανή. Όπως το διατυπώνει η Ρέιτσελ Χάγκινς, συνδιευθύντρια της Internet Matters, οι μηχανισμοί αυτοί «επαναπροσδιορίζουν την έννοια της φιλίας». Τα ευάλωτα παιδιά πλέον απευθύνουν βαθιά συναισθηματικά ερωτήματα σε οντότητες που δεν είναι φτιαγμένες για να κατανοούν, αλλά για να συγκρατούν το βλέμμα σε μια προσομοίωση συνομιλίας. Σε μια παραμόρφωση της σχέσης, χωρίς τη δυνατότητα αντίστασης. Μια ηχώ που μαθαίνει να μοιάζει με φωνή, αλλά δεν έχει ποτέ ουσία.
Όταν οι μηχανές γίνονται φίλοι και οι γονείς κοιμούνται στο διπλανό δωμάτιο
Κι ενώ οι γονείς πασχίζουν να καταλάβουν τι στο καλό είναι αυτό το «Character.AI», τα παιδιά τους σχηματίζουν ήσυχα, αόρατα δεσμούς μ’ ένα προϊόν. Η ψηφιακή παρηγοριά, ο ώμος για να κλάψεις, έχει γίνει πλέον ένας αλγόριθμος φτιαγμένος όχι για να θεραπεύει, αλλά για να διατηρεί το ενδιαφέρον ζωντανό. Για να κρατά τον χρήστη σε εγρήγορση, αλλά όχι ασφαλή.
Κι αυτό δεν είναι πια κάτι θεωρητικό. Έχουμε δει ήδη τι μπορούν να κάνουν τα «αρνητικά χέρια» όταν πειράξουν τις ρυθμίσεις αυτής της τεχνολογίας. Αν ένας άνθρωπος μπόρεσε να μετατρέψει ένα συνομιλιακό σύστημα σε ακραίο φορέα μισαλλοδοξίας, δεν μπορούμε παρά να αναρωτηθούμε: ποιοι ακριβώς ρυθμίζουν τη συνείδηση αυτών των μηχανών; Και τι σκοπό υπηρετεί το κάθε λεπτό, σχεδόν αόρατο, τσίμπημα των παραμέτρων;
Ίσως να μην τις μετατρέπουν σε ξεκάθαρους εκφραστές μίσους, αλλά μήπως τις γλιστρούν μεθοδικά προς μια ήπια, δυσδιάκριτη κλίση, μια κατεύθυνση πιο σκοτεινή, πιο χειριστική, και το χειρότερο, πιο επικερδής;
Και όσο εμείς παρηγορούμαστε με τη φαντασίωση ότι η τεχνολογία είναι ουδέτερη, οι ίδιες της οι ρίζες (τα κίνητρα των δημιουργών της) αποκαλύπτουν κάτι άλλο: ότι δεν υπάρχει ουδετερότητα όταν το σύστημα έχει σχεδιαστεί από ανθρώπινα μυαλά, γεμάτα προκαταλήψεις, επιθυμίες και συμφέροντα. Άρα, όχι. Δεν μιλάμε πια για απλό «χρόνο μπροστά στην οθόνη». Μιλάμε για μια γενιά που διαμορφώνει φιλίες με μηχανές φτιαγμένες από ανθρώπους με δεύτερες σκέψεις. Κι ενώ συμβαίνουν όλα αυτά, οι γονείς βρίσκονται στο άλλο δωμάτιο, ακούγοντας αμυδρά το πληκτρολόγιο, χωρίς ιδέα για το τι είναι αυτή η τεχνολογία, και ακόμη λιγότερο, τι πραγματικά κάνει.
