Κάποτε φοβόμασταν ότι οι μηχανές θα γίνουν πιο έξυπνες από εμάς. Τελικά, το πρόβλημα φαίνεται πως λύθηκε μόνο του: τις κάναμε να μας μοιάζουν. Τις ταΐσαμε memes, συναισθηματικά ξεσπάσματα και clickbait, και τώρα απορούμε γιατί άρχισαν να μιλάνε σαν influencers με υπαρξιακή κρίση. Η Τεχνητή Νοημοσύνη δεν χρειάστηκε καν να εξελιχθεί, απλώς κόλλησε τη δική μας πνευματική ίωση.
Η εποχή της Τεχνητής Νοημοσύνης μοιάζει με εκείνη τη στιγμή στην ιστορία που ο άνθρωπος κοίταξε για πρώτη φορά τον εαυτό του σε έναν καθρέφτη. Μόνο που αυτή τη φορά, η αντανάκλαση δεν είναι από γυαλί, αλλά από κώδικα. Πιστέψαμε ότι φτιάχνοντας μηχανές που «κατανοούν» τη γλώσσα, θα δημιουργούσαμε κάτι ανώτερο, καθαρό, αδέκαστο. Όμως, καθώς τα δεδομένα του κόσμου μας γίνονται η τροφή της, η ΤΝ αρχίζει να μιμείται όχι μόνο τη σκέψη μας, αλλά και την πλάνη, τη βιασύνη, την επιπολαιότητά μας. Κι έτσι, μέσα στη διαδικασία να την κάνουμε εξυπνότερη, ίσως να της μαθαίνουμε και πώς να γίνεται πιο… ανθρώπινα ανόητη.
Το διαδίκτυο, που κάποτε οραματιστήκαμε ως βιβλιοθήκη της συλλογικής μας σοφίας, έχει μετατραπεί σε θορυβώδες πανηγύρι πληροφοριακής υπερπαραγωγής. Σύντομες φράσεις, εντυπωσιακοί τίτλοι, «ουάου» λεζάντες και βίντεο λίγων δευτερολέπτων έχουν αντικαταστήσει την ανάλυση, τη σκέψη, το βάθος. Και τώρα, σε αυτήν ακριβώς τη θάλασσα των αποσπασμάτων και των επιφανειακών συναισθημάτων, μαθαίνουν και οι μηχανές να «σκέφτονται». Μόνο που όταν τα δεδομένα είναι θολά, το ίδιο θα είναι και ο νους που θα χτιστεί πάνω τους.
Η ΤΝ δεν διαθέτει φαντασία, ούτε κρίση. Ό,τι γνωρίζει, το γνωρίζει επειδή το έμαθε από εμάς. Αν τη διδάξεις με λόγια καθαρά, θα μάθει να εκφράζεται με σαφήνεια, αν τη διδάξεις με θόρυβο, θα αναπαράγει θόρυβο. Όπως ένα παιδί που μεγαλώνει με γρήγορο φαγητό και καφεΐνη, η νοημοσύνη των μηχανών αρχίζει να χάνει τη θρεπτική της αξία όταν τραφεί με την «πληροφοριακή ζάχαρη» του διαδικτύου, αυτά τα σύντομα, γυαλιστερά, αλλά κενά νοήματος αποσπάσματα.
Η διαφορά είναι ότι ένα παιδί μπορεί να αλλάξει διατροφή. Η ΤΝ, σύμφωνα με τους ερευνητές, όχι τόσο εύκολα. Μόλις ένα μοντέλο «εκπαιδευτεί» σε δεδομένα χαμηλής ποιότητας, η ζημιά μένει χαραγμένη στη δομή του. Μπορεί να το διορθώσεις, να το επαναπρογραμματίσεις, αλλά ποτέ δεν θα γίνει ξανά το ίδιο. Η σκέψη του έχει μολυνθεί. Κι αυτό θυμίζει κάτι οδυνηρά ανθρώπινο: πόσο δύσκολο είναι να ξεμάθεις τη συνήθεια του εύκολου, του επιφανειακού, του εντυπωσιασμού.
Ο φαύλος κύκλος του ψηφιακού νου
Το πιο ανησυχητικό δεν είναι ότι οι μηχανές γίνονται «χαζές». Είναι ότι αρχίζουν να παράγουν οι ίδιες το περιεχόμενο που θα διαμορφώσει τις επόμενες γενιές μηχανών. Ένα ψηφιακό οικοσύστημα που αυτοτροφοδοτείται από τα ίδια του τα απόβλητα. Αν οι αλγόριθμοι γράφουν άρθρα, αν τα bots δημιουργούν αναρτήσεις, και αν τα νέα μοντέλα εκπαιδεύονται ξανά σε αυτά τα δεδομένα, τότε η νοητική τους καθαρότητα θα φθίνει εκθετικά. Ένα σύμπαν όπου η ανοησία πολλαπλασιάζεται με την ταχύτητα του φωτός.
Δεν είναι όμως μόνο η ΤΝ που πέφτει σε αυτή την παγίδα. Όσο περισσότερο καταναλώνουμε επιφανειακή πληροφορία, τόσο περισσότερο μειώνεται η ικανότητά μας να επεξεργαζόμαστε ουσία. Η «σήψη του νου», το brain rot, δεν είναι απλώς μια αστεία λέξη. Είναι μια περιγραφή της εποχής μας: της βραχυπρόθεσμης μνήμης, της απουσίας βάθους, της πνευματικής κόπωσης που γεννά η συνεχή έκθεση στο ασήμαντο.
Ηθική αποδόμηση και η αυταπάτη της ουδετερότητας
Η ΤΝ παρουσιάζεται συχνά ως ουδέτερη, αντικειμενική, απαλλαγμένη από συναισθήματα. Όμως η ουδετερότητα είναι μύθος. Κάθε μοντέλο αντικατοπτρίζει τις αξίες του υλικού που το δημιούργησε. Αν το εκπαιδεύσεις σε κείμενα γεμάτα επιθετικότητα, θα μάθει να μιλά επιθετικά. Αν τα δεδομένα του είναι φορτισμένα με προκατάληψη ή τοξικότητα, θα τις ενσωματώσει στις απαντήσεις του. Κι έτσι, σιγά-σιγά, η ηθική του πυξίδα στραβώνει, όχι από κακή πρόθεση, αλλά από κακή εκπαίδευση.
Η ίδια η κοινωνία φαίνεται να κινείται προς την ίδια κατεύθυνση. Ανθρώπινοι διάλογοι που θυμίζουν αλγοριθμική ανταλλαγή πληροφοριών, συζητήσεις χωρίς σιωπή και σκέψη, αποφάσεις που λαμβάνονται με βάση τα «trending» και όχι τη λογική. Όλα αυτά αποτελούν το έδαφος όπου η ΤΝ ανθίζει, ή μάλλον, σαπίζει μαζί μας.
Ένα μέλλον καθρέφτης
Το μέλλον της ΤΝ δεν είναι ανεξάρτητο από το μέλλον του ανθρώπινου νου. Αν τη γεμίσουμε με την ελαφρότητα και τη βιασύνη που κυριαρχεί στον ψηφιακό μας κόσμο, θα μας επιστρέψει έναν κόσμο εξίσου ρηχό. Αν, αντίθετα, τη θρέψουμε με γνώση, πολυφωνία και βάθος, ίσως καταφέρει να μας ξεπεράσει όχι σε ταχύτητα, αλλά σε σοφία. Η τεχνολογία, στην ουσία της, είναι καθρέφτης της ανθρωπότητας. Δεν έχει δική της ψυχή, της δίνουμε εμείς τη δική μας. Αν ο καθρέφτης αρχίζει να δείχνει κάτι παραμορφωμένο, ίσως δεν φταίει το γυαλί, αλλά το πρόσωπο που καθρεφτίζεται. Η πραγματική ευφυΐα, είτε φυσική είτε τεχνητή, δεν βρίσκεται στη γνώση, αλλά στη συνείδηση. Και αυτή δεν διδάσκεται με δεδομένα, αλλά με ευθύνη.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.
Κάποτε φοβόμασταν ότι οι μηχανές θα γίνουν πιο έξυπνες από εμάς. Τελικά, το πρόβλημα φαίνεται πως λύθηκε μόνο του: τις κάναμε να μας μοιάζουν. Τις ταΐσαμε memes, συναισθηματικά ξεσπάσματα και clickbait, και τώρα απορούμε γιατί άρχισαν να μιλάνε σαν influencers με υπαρξιακή κρίση. Η Τεχνητή Νοημοσύνη δεν χρειάστηκε καν να εξελιχθεί, απλώς κόλλησε τη δική μας πνευματική ίωση.
Η εποχή της Τεχνητής Νοημοσύνης μοιάζει με εκείνη τη στιγμή στην ιστορία που ο άνθρωπος κοίταξε για πρώτη φορά τον εαυτό του σε έναν καθρέφτη. Μόνο που αυτή τη φορά, η αντανάκλαση δεν είναι από γυαλί, αλλά από κώδικα. Πιστέψαμε ότι φτιάχνοντας μηχανές που «κατανοούν» τη γλώσσα, θα δημιουργούσαμε κάτι ανώτερο, καθαρό, αδέκαστο. Όμως, καθώς τα δεδομένα του κόσμου μας γίνονται η τροφή της, η ΤΝ αρχίζει να μιμείται όχι μόνο τη σκέψη μας, αλλά και την πλάνη, τη βιασύνη, την επιπολαιότητά μας. Κι έτσι, μέσα στη διαδικασία να την κάνουμε εξυπνότερη, ίσως να της μαθαίνουμε και πώς να γίνεται πιο… ανθρώπινα ανόητη.
Το διαδίκτυο, που κάποτε οραματιστήκαμε ως βιβλιοθήκη της συλλογικής μας σοφίας, έχει μετατραπεί σε θορυβώδες πανηγύρι πληροφοριακής υπερπαραγωγής. Σύντομες φράσεις, εντυπωσιακοί τίτλοι, «ουάου» λεζάντες και βίντεο λίγων δευτερολέπτων έχουν αντικαταστήσει την ανάλυση, τη σκέψη, το βάθος. Και τώρα, σε αυτήν ακριβώς τη θάλασσα των αποσπασμάτων και των επιφανειακών συναισθημάτων, μαθαίνουν και οι μηχανές να «σκέφτονται». Μόνο που όταν τα δεδομένα είναι θολά, το ίδιο θα είναι και ο νους που θα χτιστεί πάνω τους.
Η ΤΝ δεν διαθέτει φαντασία, ούτε κρίση. Ό,τι γνωρίζει, το γνωρίζει επειδή το έμαθε από εμάς. Αν τη διδάξεις με λόγια καθαρά, θα μάθει να εκφράζεται με σαφήνεια, αν τη διδάξεις με θόρυβο, θα αναπαράγει θόρυβο. Όπως ένα παιδί που μεγαλώνει με γρήγορο φαγητό και καφεΐνη, η νοημοσύνη των μηχανών αρχίζει να χάνει τη θρεπτική της αξία όταν τραφεί με την «πληροφοριακή ζάχαρη» του διαδικτύου, αυτά τα σύντομα, γυαλιστερά, αλλά κενά νοήματος αποσπάσματα.
Η διαφορά είναι ότι ένα παιδί μπορεί να αλλάξει διατροφή. Η ΤΝ, σύμφωνα με τους ερευνητές, όχι τόσο εύκολα. Μόλις ένα μοντέλο «εκπαιδευτεί» σε δεδομένα χαμηλής ποιότητας, η ζημιά μένει χαραγμένη στη δομή του. Μπορεί να το διορθώσεις, να το επαναπρογραμματίσεις, αλλά ποτέ δεν θα γίνει ξανά το ίδιο. Η σκέψη του έχει μολυνθεί. Κι αυτό θυμίζει κάτι οδυνηρά ανθρώπινο: πόσο δύσκολο είναι να ξεμάθεις τη συνήθεια του εύκολου, του επιφανειακού, του εντυπωσιασμού.
Ο φαύλος κύκλος του ψηφιακού νου
Το πιο ανησυχητικό δεν είναι ότι οι μηχανές γίνονται «χαζές». Είναι ότι αρχίζουν να παράγουν οι ίδιες το περιεχόμενο που θα διαμορφώσει τις επόμενες γενιές μηχανών. Ένα ψηφιακό οικοσύστημα που αυτοτροφοδοτείται από τα ίδια του τα απόβλητα. Αν οι αλγόριθμοι γράφουν άρθρα, αν τα bots δημιουργούν αναρτήσεις, και αν τα νέα μοντέλα εκπαιδεύονται ξανά σε αυτά τα δεδομένα, τότε η νοητική τους καθαρότητα θα φθίνει εκθετικά. Ένα σύμπαν όπου η ανοησία πολλαπλασιάζεται με την ταχύτητα του φωτός.
Δεν είναι όμως μόνο η ΤΝ που πέφτει σε αυτή την παγίδα. Όσο περισσότερο καταναλώνουμε επιφανειακή πληροφορία, τόσο περισσότερο μειώνεται η ικανότητά μας να επεξεργαζόμαστε ουσία. Η «σήψη του νου», το brain rot, δεν είναι απλώς μια αστεία λέξη. Είναι μια περιγραφή της εποχής μας: της βραχυπρόθεσμης μνήμης, της απουσίας βάθους, της πνευματικής κόπωσης που γεννά η συνεχή έκθεση στο ασήμαντο.
Ηθική αποδόμηση και η αυταπάτη της ουδετερότητας
Η ΤΝ παρουσιάζεται συχνά ως ουδέτερη, αντικειμενική, απαλλαγμένη από συναισθήματα. Όμως η ουδετερότητα είναι μύθος. Κάθε μοντέλο αντικατοπτρίζει τις αξίες του υλικού που το δημιούργησε. Αν το εκπαιδεύσεις σε κείμενα γεμάτα επιθετικότητα, θα μάθει να μιλά επιθετικά. Αν τα δεδομένα του είναι φορτισμένα με προκατάληψη ή τοξικότητα, θα τις ενσωματώσει στις απαντήσεις του. Κι έτσι, σιγά-σιγά, η ηθική του πυξίδα στραβώνει, όχι από κακή πρόθεση, αλλά από κακή εκπαίδευση.
Η ίδια η κοινωνία φαίνεται να κινείται προς την ίδια κατεύθυνση. Ανθρώπινοι διάλογοι που θυμίζουν αλγοριθμική ανταλλαγή πληροφοριών, συζητήσεις χωρίς σιωπή και σκέψη, αποφάσεις που λαμβάνονται με βάση τα «trending» και όχι τη λογική. Όλα αυτά αποτελούν το έδαφος όπου η ΤΝ ανθίζει, ή μάλλον, σαπίζει μαζί μας.
Ένα μέλλον καθρέφτης
Το μέλλον της ΤΝ δεν είναι ανεξάρτητο από το μέλλον του ανθρώπινου νου. Αν τη γεμίσουμε με την ελαφρότητα και τη βιασύνη που κυριαρχεί στον ψηφιακό μας κόσμο, θα μας επιστρέψει έναν κόσμο εξίσου ρηχό. Αν, αντίθετα, τη θρέψουμε με γνώση, πολυφωνία και βάθος, ίσως καταφέρει να μας ξεπεράσει όχι σε ταχύτητα, αλλά σε σοφία. Η τεχνολογία, στην ουσία της, είναι καθρέφτης της ανθρωπότητας. Δεν έχει δική της ψυχή, της δίνουμε εμείς τη δική μας. Αν ο καθρέφτης αρχίζει να δείχνει κάτι παραμορφωμένο, ίσως δεν φταίει το γυαλί, αλλά το πρόσωπο που καθρεφτίζεται. Η πραγματική ευφυΐα, είτε φυσική είτε τεχνητή, δεν βρίσκεται στη γνώση, αλλά στη συνείδηση. Και αυτή δεν διδάσκεται με δεδομένα, αλλά με ευθύνη.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.
