Δεν υπάρχει αμφιβολία ότι η OpenAI πέτυχε κάτι ιστορικό με την κυκλοφορία του ChatGPT 3.5 το 2022. Ξεκίνησε μια κούρσα εξοπλισμών στην τεχνητή νοημοσύνη που έχει ήδη αλλάξει τον κόσμο με διάφορους τρόπους και φαίνεται ότι θα έχει ακόμα μεγαλύτερη μακροπρόθεσμη επίδραση από τις βραχυπρόθεσμες αναταράξεις σε τομείς όπως η εκπαίδευση και η απασχόληση που ήδη αρχίζουμε να βλέπουμε. Το πως θα εξελιχθεί αυτό για την ανθρωπότητα είναι κάτι που ακόμα προσπαθούμε να κατανοήσουμε — και ίσως να συνεχίσουμε να το κάνουμε για πολύ καιρό.
Δύο πρόσφατες κυκλοφορίες βιβλίων προσπαθούν να προσεγγίσουν το φαινόμενο, μέσα από αφηγήσεις δύο κορυφαίων δημοσιογράφων τεχνολογίας για το τι είδαν με την «επανάσταση OpenAI».
Στο Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI, η Karen Hao του The Atlantic αφηγείται την άνοδο της εταιρείας και τη μακροπρόθεσμη παγκόσμια επίδρασή της. Από την άλλη πλευρά, το The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future, της Keach Hagey της Wall Street Journal, εστιάζει περισσότερο στην προσωπική ζωή του Altman — από την παιδική του ηλικία έως σήμερα — ώστε να αφηγηθεί την ιστορία της OpenAI μέσα από αυτόν.
Και τα δύο βιβλία παρουσιάζουν περίπλοκες εικόνες και σκιαγραφούν τον Altman ιδιαίτερα ως μια ιδιοφυΐα αποτελεσματικότητας, αλλά ταυτόχρονα βαθιά ατελή «πλάση» της Silicon Valley — κάποιον που μπορεί πάντα να πετυχαίνει αυτό που θέλει, αλλά συχνά με χειριστικό τρόπο.
Η ιστορία της OpenAI, όπως την αφηγείται η Hao (και όπως το κάνει και η Hagey), είναι μια αφήγηση όπου μια εταιρεία που ιδρύθηκε με το ιδεαλιστικό όραμα να δημιουργήσει μια τεχνητή γενική νοημοσύνη με επίκεντρο την ασφάλεια. Τελικά απομακρύνθηκε από αυτόν τον στόχο και εστίασε στο να “κερδίσει”. Είναι ένα μοτίβο που έχουμε δει πολλές φορές στον χώρο της Μεγάλης Τεχνολογίας: Η Theranos ήθελε να κάνει ευκολότερες τις διαγνώσεις, η Uber γεννήθηκε για να “σπάσει το καρτέλ των ταξί”, αλλά κατέληξαν αλλού.
Ίσως όμως το πιο κοντινό παράδειγμα είναι η Google, η οποία πέρασε από το σύνθημα «Μην είσαι κακός» στο να θεωρείται μονοπωλιακή εταιρεία. Ενδεικτικά, θυμηθείτε πως η Google στην αρχή κρατούσε πίσω την κυκλοφορία του δικού της γλωσσικού μοντέλου λόγω προληπτικής στάσης, αλλά αργότερα έσπευσε να λανσάρει chatbot για να προλάβει και να ξεπεράσει την OpenAI. Στη Silicon Valley, ανεξαρτήτως αρχικών προθέσεων, όλα επιστρέφουν τελικά σε έναν στόχο: τη νίκη.
Αυτό το θέμα αποτελεί τη βασική θέση του βιβλίου, γύρω από αυτό που η Hao αποκαλεί «AI colonialism» (Αποικιοκρατισμός της ΤΝ). Η ιδέα είναι πως οι μεγάλες εταιρείες τεχνητής νοημοσύνης λειτουργούν σαν παραδοσιακές αυτοκρατορίες, αντλώντας πλούτο από τα χαμηλότερα κοινωνικά στρώματα — με τη μορφή εργασίας, δημιουργικού έργου, πρώτων υλών κ.ά. — για να τροφοδοτήσουν τις φιλοδοξίες τους και να εμπλουτίσουν τους λίγους στην κορυφή.
«Έχω βρει μόνο μια μεταφορά που να συνοψίζει τη φύση αυτών των παικτών της ΤΝ: αυτοκρατορίες», γράφει η Hao. «Κατά τη μακρά εποχή της ευρωπαϊκής αποικιοκρατίας, οι αυτοκρατορίες καταλάμβαναν και εξήγαγαν πόρους που δεν τους ανήκαν και εκμεταλλεύονταν την εργασία των υποδουλωμένων λαών για να εξορύξουν, να καλλιεργήσουν και να επεξεργαστούν αυτούς τους πόρους προς όφελος των αυτοκρατοριών».
Η Hao εξιστορεί τη σταδιακή απογοήτευσή της με τον κλάδο:
«Με όλο και μεγαλύτερη διαύγεια, συνειδητοποίησα ότι η ίδια επανάσταση που υπόσχεται ένα καλύτερο μέλλον, αναβιώνει — για τα περιθωριοποιημένα άτομα — τα σκοτεινότερα κατάλοιπα του παρελθόντος».
Για να τεκμηριώσει αυτό το επιχείρημα, η Hao εγκαταλείπει το γραφείο της και ταξιδεύει ανά τον κόσμο:
• Στην Κολομβία, συναντά εργαζόμενους που επισημαίνουν δεδομένα για να εκπαιδευτούν τα μοντέλα — όπως μία γυναίκα που τρέχει πίσω στο διαμέρισμά της για να αρπάξει την ευκαιρία να βγάλει λίγα δολάρια.
• Στην Κένυα, καταγράφει πως εργαζόμενοι που έκαναν moderation για την OpenAI υπέστησαν ψυχικό τραύμα από την έκθεση σε σοκαριστικό υλικό.
• Στη Χιλή, τεκμηριώνει την εξόρυξη φυσικών πόρων όπως νερό, ηλεκτρισμό, χαλκό και λίθιο για τη δημιουργία data centers.
Η Hao όμως, δεν σταματά στην καταγγελία — παρουσιάζει και τις μορφές αντίστασης που αναπτύσσονται απέναντι στην “αυτοκρατορία της ΤΝ”:
Στη Νέα Ζηλανδία, για παράδειγμα, καταγράφει πως οι Μαορί προσπαθούν να σώσουν τη γλώσσα τους με ένα μικρό γλωσσικό μοντέλο που ανέπτυξαν μόνοι τους. Εκπαιδευμένο σε ηχογραφήσεις εθελοντών και λειτουργώντας μόνο με δύο κάρτες γραφικών (GPU) αντί για τις χιλιάδες που χρησιμοποιεί η OpenAI. Αυτό το μοντέλο έχει σχεδιαστεί για να εξυπηρετεί την κοινότητα και όχι να την εκμεταλλεύεται.
Το Empire of AI, έτσι, δεν είναι απλώς μια τεχνολογική ιστορία. Είναι ένα έργο πολιτικό, κοινωνικό και ηθικό — που αναδεικνύει τις βαθύτερες δυνάμεις πίσω από την τεχνητή νοημοσύνη και τις συνέπειες που έχει για τον κόσμο.
Η Hao γράφει πως δεν είναι αντίθετη με την τεχνητή νοημοσύνη (AI). Αντιθέτως, λέει:
«Αυτό που απορρίπτω είναι η επικίνδυνη αντίληψη ότι το ευρύ όφελος από την ΤΝ μπορεί να προκύψει — και πράγματι θα προκύψει — μόνο μέσα από ένα όραμα για την τεχνολογία που απαιτεί την πλήρη παράδοση της ιδιωτικότητάς μας, της αυτονομίας μας και της ανθρώπινης αξίας μας, περιλαμβανομένης της αξίας της εργασίας και της τέχνης μας, για χάρη ενός τελικά αυτοκρατορικού σχεδίου συγκεντρωτισμού… [Το παράδειγμα της Νέας Ζηλανδίας] μας δείχνει έναν άλλο δρόμο. Φαντάζεται πως η ΤΝ θα μπορούσε να είναι το ακριβώς αντίθετο. Τα μοντέλα μπορούν να είναι μικρά και εξειδικευμένα, τα δεδομένα εκπαίδευσης περιορισμένα και γνωστά, απομακρύνοντας έτσι τα κίνητρα για ευρεία, εκμεταλλευτική και ψυχολογικά επιβλαβή εργασία και την αδηφάγο εξόρυξη που απαιτεί η παραγωγή και λειτουργία τεράστιων υπερυπολογιστών».
Από την άλλη πλευρά, το βιβλίο της Hagey (The Optimist) επικεντρώνεται πιο ξεκάθαρα στη φιλοδοξία του Sam Altman, την οποία ανιχνεύει από την παιδική του ηλικία. Παρ’ όλα αυτά, και εκείνη εστιάζει στην επιδίωξη του Altman να χτίσει μια αυτοκρατορία. Όπως γράφει:
«Η αποχώρηση του Altman από το Y Combinator δεν επιβράδυνε τις φιλοδοξίες του να “χτίσει πολιτισμό”».
Στη συνέχεια αφηγείται πώς ο Altman, ο οποίος παλαιότερα είχε σκεφτεί να είναι υποψήφιος για κυβερνήτης της Καλιφόρνια δημιούργησε πειραματικές πλατφόρμες διανομής εισοδήματος μέσω της Tools for Humanity, μητρικής εταιρείας του Worldcoin.
Η Hagey τον παραθέτει να λέει: «Σκέφτηκα ότι θα είχε ενδιαφέρον να δούμε… μέχρι που μπορεί η τεχνολογία να πετύχει στόχους που μέχρι τώρα ανήκαν αποκλειστικά στα κράτη».
Συνολικά, το The Optimist είναι μια πιο παραδοσιακή επιχειρηματική βιογραφία. Η Hagey έχει γεμίσει το βιβλίο με αποκαλύψεις, παρασκηνιακές ιστορίες και εσωτερική πληροφόρηση. Είναι εξαιρετικά ευανάγνωστο, ιδίως στο δεύτερο μισό όταν η OpenAI κυριαρχεί στην αφήγηση.
Φαίνεται επίσης ότι η Hagey είχε πολύ μεγαλύτερη πρόσβαση στον Altman και στο στενό του περιβάλλον, σε προσωπικό και επαγγελματικό επίπεδο σε σχέση με την Hao. Αυτό της επιτρέπει να δώσει μια πληρέστερη εικόνα της ζωής του. Για παράδειγμα, και οι δύο συγγραφείς αναφέρονται στην τραγική ιστορία της αδερφής του Altman, της Annie, η οποία αποξενώθηκε από την οικογένεια και τον κατηγόρησε για σεξουαλική κακοποίηση — κάτι που ο ίδιος και η οικογένειά του αρνούνται κατηγορηματικά. Η εκδοχή της Hagey προσφέρει μια πιο πολύπλευρη απεικόνιση της κατάστασης με μεγαλύτερη εστίαση στην οικογενειακή δυναμική.
Η Hagey κλείνει το βιβλίο της περιγράφοντας τον προβληματισμό του Altman σχετικά με τον ρόλο του στη μακροϊστορία της ανθρωπότητας και με το τι σημαίνει να δημιουργήσει κανείς μια «υπερνοημοσύνη» (superintelligence). Είναι φανερό πως αυτή η ιδέα τον καταλαμβάνει έντονα.
*Με στοιχεία από το Τechnology Review.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.
Δεν υπάρχει αμφιβολία ότι η OpenAI πέτυχε κάτι ιστορικό με την κυκλοφορία του ChatGPT 3.5 το 2022. Ξεκίνησε μια κούρσα εξοπλισμών στην τεχνητή νοημοσύνη που έχει ήδη αλλάξει τον κόσμο με διάφορους τρόπους και φαίνεται ότι θα έχει ακόμα μεγαλύτερη μακροπρόθεσμη επίδραση από τις βραχυπρόθεσμες αναταράξεις σε τομείς όπως η εκπαίδευση και η απασχόληση που ήδη αρχίζουμε να βλέπουμε. Το πως θα εξελιχθεί αυτό για την ανθρωπότητα είναι κάτι που ακόμα προσπαθούμε να κατανοήσουμε — και ίσως να συνεχίσουμε να το κάνουμε για πολύ καιρό.
Δύο πρόσφατες κυκλοφορίες βιβλίων προσπαθούν να προσεγγίσουν το φαινόμενο, μέσα από αφηγήσεις δύο κορυφαίων δημοσιογράφων τεχνολογίας για το τι είδαν με την «επανάσταση OpenAI».
Στο Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI, η Karen Hao του The Atlantic αφηγείται την άνοδο της εταιρείας και τη μακροπρόθεσμη παγκόσμια επίδρασή της. Από την άλλη πλευρά, το The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future, της Keach Hagey της Wall Street Journal, εστιάζει περισσότερο στην προσωπική ζωή του Altman — από την παιδική του ηλικία έως σήμερα — ώστε να αφηγηθεί την ιστορία της OpenAI μέσα από αυτόν.
Και τα δύο βιβλία παρουσιάζουν περίπλοκες εικόνες και σκιαγραφούν τον Altman ιδιαίτερα ως μια ιδιοφυΐα αποτελεσματικότητας, αλλά ταυτόχρονα βαθιά ατελή «πλάση» της Silicon Valley — κάποιον που μπορεί πάντα να πετυχαίνει αυτό που θέλει, αλλά συχνά με χειριστικό τρόπο.
Η ιστορία της OpenAI, όπως την αφηγείται η Hao (και όπως το κάνει και η Hagey), είναι μια αφήγηση όπου μια εταιρεία που ιδρύθηκε με το ιδεαλιστικό όραμα να δημιουργήσει μια τεχνητή γενική νοημοσύνη με επίκεντρο την ασφάλεια. Τελικά απομακρύνθηκε από αυτόν τον στόχο και εστίασε στο να “κερδίσει”. Είναι ένα μοτίβο που έχουμε δει πολλές φορές στον χώρο της Μεγάλης Τεχνολογίας: Η Theranos ήθελε να κάνει ευκολότερες τις διαγνώσεις, η Uber γεννήθηκε για να “σπάσει το καρτέλ των ταξί”, αλλά κατέληξαν αλλού.
Ίσως όμως το πιο κοντινό παράδειγμα είναι η Google, η οποία πέρασε από το σύνθημα «Μην είσαι κακός» στο να θεωρείται μονοπωλιακή εταιρεία. Ενδεικτικά, θυμηθείτε πως η Google στην αρχή κρατούσε πίσω την κυκλοφορία του δικού της γλωσσικού μοντέλου λόγω προληπτικής στάσης, αλλά αργότερα έσπευσε να λανσάρει chatbot για να προλάβει και να ξεπεράσει την OpenAI. Στη Silicon Valley, ανεξαρτήτως αρχικών προθέσεων, όλα επιστρέφουν τελικά σε έναν στόχο: τη νίκη.
Αυτό το θέμα αποτελεί τη βασική θέση του βιβλίου, γύρω από αυτό που η Hao αποκαλεί «AI colonialism» (Αποικιοκρατισμός της ΤΝ). Η ιδέα είναι πως οι μεγάλες εταιρείες τεχνητής νοημοσύνης λειτουργούν σαν παραδοσιακές αυτοκρατορίες, αντλώντας πλούτο από τα χαμηλότερα κοινωνικά στρώματα — με τη μορφή εργασίας, δημιουργικού έργου, πρώτων υλών κ.ά. — για να τροφοδοτήσουν τις φιλοδοξίες τους και να εμπλουτίσουν τους λίγους στην κορυφή.
«Έχω βρει μόνο μια μεταφορά που να συνοψίζει τη φύση αυτών των παικτών της ΤΝ: αυτοκρατορίες», γράφει η Hao. «Κατά τη μακρά εποχή της ευρωπαϊκής αποικιοκρατίας, οι αυτοκρατορίες καταλάμβαναν και εξήγαγαν πόρους που δεν τους ανήκαν και εκμεταλλεύονταν την εργασία των υποδουλωμένων λαών για να εξορύξουν, να καλλιεργήσουν και να επεξεργαστούν αυτούς τους πόρους προς όφελος των αυτοκρατοριών».
Η Hao εξιστορεί τη σταδιακή απογοήτευσή της με τον κλάδο:
«Με όλο και μεγαλύτερη διαύγεια, συνειδητοποίησα ότι η ίδια επανάσταση που υπόσχεται ένα καλύτερο μέλλον, αναβιώνει — για τα περιθωριοποιημένα άτομα — τα σκοτεινότερα κατάλοιπα του παρελθόντος».
Για να τεκμηριώσει αυτό το επιχείρημα, η Hao εγκαταλείπει το γραφείο της και ταξιδεύει ανά τον κόσμο:
• Στην Κολομβία, συναντά εργαζόμενους που επισημαίνουν δεδομένα για να εκπαιδευτούν τα μοντέλα — όπως μία γυναίκα που τρέχει πίσω στο διαμέρισμά της για να αρπάξει την ευκαιρία να βγάλει λίγα δολάρια.
• Στην Κένυα, καταγράφει πως εργαζόμενοι που έκαναν moderation για την OpenAI υπέστησαν ψυχικό τραύμα από την έκθεση σε σοκαριστικό υλικό.
• Στη Χιλή, τεκμηριώνει την εξόρυξη φυσικών πόρων όπως νερό, ηλεκτρισμό, χαλκό και λίθιο για τη δημιουργία data centers.
Η Hao όμως, δεν σταματά στην καταγγελία — παρουσιάζει και τις μορφές αντίστασης που αναπτύσσονται απέναντι στην “αυτοκρατορία της ΤΝ”:
Στη Νέα Ζηλανδία, για παράδειγμα, καταγράφει πως οι Μαορί προσπαθούν να σώσουν τη γλώσσα τους με ένα μικρό γλωσσικό μοντέλο που ανέπτυξαν μόνοι τους. Εκπαιδευμένο σε ηχογραφήσεις εθελοντών και λειτουργώντας μόνο με δύο κάρτες γραφικών (GPU) αντί για τις χιλιάδες που χρησιμοποιεί η OpenAI. Αυτό το μοντέλο έχει σχεδιαστεί για να εξυπηρετεί την κοινότητα και όχι να την εκμεταλλεύεται.
Το Empire of AI, έτσι, δεν είναι απλώς μια τεχνολογική ιστορία. Είναι ένα έργο πολιτικό, κοινωνικό και ηθικό — που αναδεικνύει τις βαθύτερες δυνάμεις πίσω από την τεχνητή νοημοσύνη και τις συνέπειες που έχει για τον κόσμο.
Η Hao γράφει πως δεν είναι αντίθετη με την τεχνητή νοημοσύνη (AI). Αντιθέτως, λέει:
«Αυτό που απορρίπτω είναι η επικίνδυνη αντίληψη ότι το ευρύ όφελος από την ΤΝ μπορεί να προκύψει — και πράγματι θα προκύψει — μόνο μέσα από ένα όραμα για την τεχνολογία που απαιτεί την πλήρη παράδοση της ιδιωτικότητάς μας, της αυτονομίας μας και της ανθρώπινης αξίας μας, περιλαμβανομένης της αξίας της εργασίας και της τέχνης μας, για χάρη ενός τελικά αυτοκρατορικού σχεδίου συγκεντρωτισμού… [Το παράδειγμα της Νέας Ζηλανδίας] μας δείχνει έναν άλλο δρόμο. Φαντάζεται πως η ΤΝ θα μπορούσε να είναι το ακριβώς αντίθετο. Τα μοντέλα μπορούν να είναι μικρά και εξειδικευμένα, τα δεδομένα εκπαίδευσης περιορισμένα και γνωστά, απομακρύνοντας έτσι τα κίνητρα για ευρεία, εκμεταλλευτική και ψυχολογικά επιβλαβή εργασία και την αδηφάγο εξόρυξη που απαιτεί η παραγωγή και λειτουργία τεράστιων υπερυπολογιστών».
Από την άλλη πλευρά, το βιβλίο της Hagey (The Optimist) επικεντρώνεται πιο ξεκάθαρα στη φιλοδοξία του Sam Altman, την οποία ανιχνεύει από την παιδική του ηλικία. Παρ’ όλα αυτά, και εκείνη εστιάζει στην επιδίωξη του Altman να χτίσει μια αυτοκρατορία. Όπως γράφει:
«Η αποχώρηση του Altman από το Y Combinator δεν επιβράδυνε τις φιλοδοξίες του να “χτίσει πολιτισμό”».
Στη συνέχεια αφηγείται πώς ο Altman, ο οποίος παλαιότερα είχε σκεφτεί να είναι υποψήφιος για κυβερνήτης της Καλιφόρνια δημιούργησε πειραματικές πλατφόρμες διανομής εισοδήματος μέσω της Tools for Humanity, μητρικής εταιρείας του Worldcoin.
Η Hagey τον παραθέτει να λέει: «Σκέφτηκα ότι θα είχε ενδιαφέρον να δούμε… μέχρι που μπορεί η τεχνολογία να πετύχει στόχους που μέχρι τώρα ανήκαν αποκλειστικά στα κράτη».
Συνολικά, το The Optimist είναι μια πιο παραδοσιακή επιχειρηματική βιογραφία. Η Hagey έχει γεμίσει το βιβλίο με αποκαλύψεις, παρασκηνιακές ιστορίες και εσωτερική πληροφόρηση. Είναι εξαιρετικά ευανάγνωστο, ιδίως στο δεύτερο μισό όταν η OpenAI κυριαρχεί στην αφήγηση.
Φαίνεται επίσης ότι η Hagey είχε πολύ μεγαλύτερη πρόσβαση στον Altman και στο στενό του περιβάλλον, σε προσωπικό και επαγγελματικό επίπεδο σε σχέση με την Hao. Αυτό της επιτρέπει να δώσει μια πληρέστερη εικόνα της ζωής του. Για παράδειγμα, και οι δύο συγγραφείς αναφέρονται στην τραγική ιστορία της αδερφής του Altman, της Annie, η οποία αποξενώθηκε από την οικογένεια και τον κατηγόρησε για σεξουαλική κακοποίηση — κάτι που ο ίδιος και η οικογένειά του αρνούνται κατηγορηματικά. Η εκδοχή της Hagey προσφέρει μια πιο πολύπλευρη απεικόνιση της κατάστασης με μεγαλύτερη εστίαση στην οικογενειακή δυναμική.
Η Hagey κλείνει το βιβλίο της περιγράφοντας τον προβληματισμό του Altman σχετικά με τον ρόλο του στη μακροϊστορία της ανθρωπότητας και με το τι σημαίνει να δημιουργήσει κανείς μια «υπερνοημοσύνη» (superintelligence). Είναι φανερό πως αυτή η ιδέα τον καταλαμβάνει έντονα.
*Με στοιχεία από το Τechnology Review.
➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.
