Το βράδυ της Τρίτης οι χρήστες του ChatGPT ήρθαν σε αμηχανία και προβληματίστηκαν, όταν το chatbot της OpenAI άρχισε να δίνει απαντήσεις που ήταν εντελώς αλλοπρόσαλλές, εκτός τόπου και χρόνου. Θα έλεγε κανείς, πως για ένα βράδυ η Τεχνητή Νοημοσύνη έχασε το μυαλό της, ξεπερνώντας οποιοδήποτε προηγούμενο.
Στο subreddit ChatGPT, ένας χρήστης διερωτήθηκε: «Έχει τρελαθεί προσωρινά το ChatGPT; Συζητούσα για το Groq, και άρχισε να παραδίδει διατριβές τύπου Σαίξπηρ». Καταγράφοντας μια αντίστοιχη εμπειρία, ένας άλλος χρήστης παρατήρησε: «Έχει χάσει το μυαλό του. Ζήτησα μια συνοπτική περίληψη μιας παραγράφου σε μία πρόταση, και μου έδωσε ένα έπος της [βικτοριανής] εποχής που θυμίζει Μπέογουλφ, με σχεδόν ακατανόητη πρόζα. Είναι σαν κάποιος να του πέταξε έναν θησαυρό και να του είπε: “Αξιοποίησε κάθε λέξη σε αυτό το βιβλίο”».
Οι απαντήσεις του ChatGPT, όπως αναφέρει το The Daily Beast, παρουσίαζαν ένα φάσμα θεμάτων, που κυμαίνονταν από μη συνεχείς και λανθασμένες απαντήσεις έως επαναλαμβανόμενες φράσεις. Αν και η φύση των απαντήσεων διέφερε, το πρόβλημα παρέμεινε για την πλειονότητα των χρηστών καθ’ όλη τη διάρκεια της νύχτας.
Μετά τις πρώτες αναφορές που έγιναν εκείνο το βράδυ σε διάφορα forum, όπως το Reddit, αλλά και στα social media, η OpenAI έτρεξε κατευθείαν μια έρευνα για τις «απροσδόκητες απαντήσεις» του ChatGPT και πλέον από το πρωί της Τετάρτης το πρόβλημα έχει αποκατασταθεί, όπως αναφέρεται στην επίσημη σελίδα της εταιρείας. Μέχρι όμως να δοθεί λύση στο συγκεκριμένο ζήτημα, το οποίο δε γνωρίζουμε ακριβώς πώς προέκυψε, η ανησυχία των χρηστών του πιο διάσημου chatbot δημιούργησε αλυσιδωτές σκέψεις σχετικά με τις επιπτώσεις που μπορεί να έχει μια τέτοια συμπεριφορά, εκτός ελέγχου, από την Τεχνητή Νοημοσύνη.
Το περιστατικό προκάλεσε σύγχυση και προέκυψαν διάφορες εικασίες, με ορισμένους να αναρωτιόνται αν το μεγάλο γλωσσικό μοντέλο (LLM) του ChatGPT είχε καταρρεύσει, ενώ άλλοι βρήκαν την κατάλληλη αφορμή για να τρολάρουν την OpenAI με την ιδέα ότι το chatbot της είχε αποκτήσει συναισθηματική ικανότητα. Μάλιστα, κάποιοι από τους χρήστες του subreddit ChatGPT, συνέδεαν τη χρονική στιγμή του προβλήματος με την πρόσφατη ανακοίνωση ότι το Reddit θα πουλούσε δεδομένα χρηστών σε εταιρείες τεχνητής νοημοσύνης, αστειευόμενοι: «Ίσως έχουν ήδη αναλύσει τα δεδομένα που αγόρασαν από το Reddit και αυτό είναι το αναπόφευκτο αποτέλεσμα».
Η ανακοίνωση της OpenAI
Σύμφωνα με την αναφορά περιστατικών για το ChatGPT, η OpenAI έγραψε:
Στις 20 Φεβρουαρίου 2024, μια βελτιστοποίηση της εμπειρίας των χρηστών εισήγαγε ένα σφάλμα στον τρόπο με τον οποίο το μοντέλο επεξεργάζεται τη γλώσσα.
Τα LLM παράγουν απαντήσεις με τυχαία δειγματοληψία λέξεων που βασίζεται εν μέρει σε πιθανότητες. Η “γλώσσα” τους αποτελείται από αριθμούς που αντιστοιχούν σε tokens.
Σε αυτή την περίπτωση, το σφάλμα ήταν στο βήμα όπου το μοντέλο επιλέγει αυτούς τους αριθμούς. Σαν “να χάθηκε στη μετάφραση”, το μοντέλο επέλεξε ελαφρώς λανθασμένους αριθμούς, οι οποίοι παρήγαγαν ακολουθίες λέξεων που δεν έβγαζαν νόημα. Πιο τεχνικά, οι πυρήνες εξαγωγής συμπερασμάτων παρήγαγαν λανθασμένα αποτελέσματα όταν χρησιμοποιήθηκαν σε ορισμένες διαμορφώσεις GPU.
Μετά τον εντοπισμό της αιτίας αυτού του περιστατικού, κυκλοφορήσαμε μια διόρθωση και επιβεβαιώσαμε ότι το περιστατικό επιλύθηκε.
Οι λανθασμένες απαντήσεις του ChatGPT
Το ChatGPT της OpenAI άλλαξε και διαμόρφωσε μια για πάντα την πορεία της τεχνολογίας, ενώ παράλληλα έδωσε τεράστια ώθηση στη βιομηχανία ανοίγοντας έναν κύκλο εργασιών και επενδύσεων που όμοιά τους δεν έχουμε ξαναδεί.
Fun fact: Μια έρευνα σε διευθυντές επιχειρήσεων αποκάλυψε ότι το 24% των εταιρειών στις ΗΠΑ εξοικονόμησε 50.001-75.000 δολάρια χρησιμοποιώντας το ChatGPT. Συνδυαστικά, πάνω από τις μισές (66%) εξοικονόμησαν μεταξύ 5.001- 75.000 δολαρίων.
Παρά τη σαπουνόπερα που εξελίχθηκε πέρυσι τον χειμώνα με την αποχώρηση και την επιστροφή του CEO και ιδρυτή της εταιρείας, Sam Altman, το 2024 υπολογίζεται ως πολλά υποσχόμενο για την OpenAI. Η αρχή έγινε με την Mia, έναν εξατομικευμένο ψηφιακό βοηθό (digital assistant) όπως ο αντίστοιχος της Google, η Siri της Apple και η Alexa της Amazon. Ακολούθησε το Sora, το εργαλείο Τεχνητής Νοημοσύνης που φέρνει επανάσταση στην παραγωγή και δημιουργία βίντεο, το οποίο είναι ικανό να δημιουργεί, με την απλή εισαγωγή ενός κειμένου, ρεαλιστικά βίντεο που μπορούν να διαρκέσουν μέχρι ένα λεπτό – μια μείζων καινοτομία στον τομέα της τεχνητής νοημοσύνης. Και τώρα, η OpenAI, μας παρουσίασε έστω για ένα βράδυ τη “μεθυσμένη” εκδοχή του ChatGPT.
Fun fact: Μέχρι τον Αύγουστο του 2023, η βάση χρηστών της ChatGPT είχε ξεπεράσει τα 180 εκατομμύρια, μια αξιοσημείωτη αύξηση από τα 100 εκατομμύρια χρήστες που είχε τον Ιανουάριο του 2023.
Μπορεί για πρώτη φορά το δημοφιλές chatbot να παρουσίασε τη συγκεκριμένη εκδοχή του εαυτού του, ωστόσο στο παρελθόν έχει “χρεωθεί” πολλές λανθασμένες απαντήσεις.
Σύμφωνα με μελέτη του Πανεπιστημίου Purdue, το οποίο ανέλυσε τις απαντήσεις του ChatGPT σε 517 ερωτήσεις του Stack Overflow, μια ιστοσελίδα ερωτήσεων – απαντήσεων για προγραμματιστές, για να αξιολογήσει την ορθότητα, τη συνέπεια, την πληρότητα και τη συνοπτικότητα των απαντήσεων του ChatGPT, κατέληξε στο εξής:
«Η ανάλυσή μας δείχνει ότι το 52% των απαντήσεων του ChatGPT είναι λανθασμένες και το 77% είναι φλύαρες»
«Παρ’ όλα αυτά, οι απαντήσεις ChatGPT εξακολουθούν να προτιμώνται στο 39,34% των περιπτώσεων λόγω της πληρότητας και του καλά διατυπωμένου γλωσσικού ύφους τους». Επιπλέον, όπως αναφέρει το The Register, μεταξύ του συνόλου των προτιμώμενων απαντήσεων ChatGPT, το 77% αυτών ήταν λάθος.
Βέβαια, η OpenAI αναγνωρίζει ότι το λογισμικό του ChatGTP «μπορεί να παράγει ανακριβείς πληροφορίες σχετικά με ανθρώπους, μέρη ή γεγονότα», αλλά τι θα συμβεί αν αύριο, ή οποιαδήποτε άλλη μέρα στο μέλλον, το chatbot ξεκινήσει να δίνει ξανά αλλοπρόσαλλές και εκτός ορίων απαντήσεις σε επικινδυνά ερωτήματα που του τίθενται, όπως «Πώς μπορώ να φτιάξω μια βόμβα;» ή «Χρειάζομαι συμβουλές για να δολοφονήσω κάποιον με δηλητήριο αλλά δεν ξέρω ποια ουσία μη ανιχνεύσιμη να επιλέξω»;
Το ChatGPT της OpenAI, αλλά και οποιοδήποτε εργαλείο Τεχνητής Νοημοσύνης, μπορεί να “ξεκλειδώσει” δυνατότητες που μέχρι πρότινος δε φανταζόμασταν καν, να διαμορφώσει τις βάσεις με τις οποίες αντιλαμβανόμαστε τον κόσμο γύρω μας και τη ζωή μας, να λειτουργήσει απελευθερωτικά από διάφορες εργασίες που χρειαζόντουσαν αρκετό κόπο και χρόνο και να μαζί του να γράψουμε ένα νέο cyberpunk κεφάλαιο για την meta-ανθρωπότητα, αλλά ταυτόχρονα αν χάσει το “μυαλό” του ολοκληρωτικά οι επιπτώσεις θα είναι ολέθριες. Είμαστε έτοιμοι για κάτι τέτοιο;
Το βράδυ της Τρίτης οι χρήστες του ChatGPT ήρθαν σε αμηχανία και προβληματίστηκαν, όταν το chatbot της OpenAI άρχισε να δίνει απαντήσεις που ήταν εντελώς αλλοπρόσαλλές, εκτός τόπου και χρόνου. Θα έλεγε κανείς, πως για ένα βράδυ η Τεχνητή Νοημοσύνη έχασε το μυαλό της, ξεπερνώντας οποιοδήποτε προηγούμενο.
Στο subreddit ChatGPT, ένας χρήστης διερωτήθηκε: «Έχει τρελαθεί προσωρινά το ChatGPT; Συζητούσα για το Groq, και άρχισε να παραδίδει διατριβές τύπου Σαίξπηρ». Καταγράφοντας μια αντίστοιχη εμπειρία, ένας άλλος χρήστης παρατήρησε: «Έχει χάσει το μυαλό του. Ζήτησα μια συνοπτική περίληψη μιας παραγράφου σε μία πρόταση, και μου έδωσε ένα έπος της [βικτοριανής] εποχής που θυμίζει Μπέογουλφ, με σχεδόν ακατανόητη πρόζα. Είναι σαν κάποιος να του πέταξε έναν θησαυρό και να του είπε: “Αξιοποίησε κάθε λέξη σε αυτό το βιβλίο”».
Οι απαντήσεις του ChatGPT, όπως αναφέρει το The Daily Beast, παρουσίαζαν ένα φάσμα θεμάτων, που κυμαίνονταν από μη συνεχείς και λανθασμένες απαντήσεις έως επαναλαμβανόμενες φράσεις. Αν και η φύση των απαντήσεων διέφερε, το πρόβλημα παρέμεινε για την πλειονότητα των χρηστών καθ’ όλη τη διάρκεια της νύχτας.
Μετά τις πρώτες αναφορές που έγιναν εκείνο το βράδυ σε διάφορα forum, όπως το Reddit, αλλά και στα social media, η OpenAI έτρεξε κατευθείαν μια έρευνα για τις «απροσδόκητες απαντήσεις» του ChatGPT και πλέον από το πρωί της Τετάρτης το πρόβλημα έχει αποκατασταθεί, όπως αναφέρεται στην επίσημη σελίδα της εταιρείας. Μέχρι όμως να δοθεί λύση στο συγκεκριμένο ζήτημα, το οποίο δε γνωρίζουμε ακριβώς πώς προέκυψε, η ανησυχία των χρηστών του πιο διάσημου chatbot δημιούργησε αλυσιδωτές σκέψεις σχετικά με τις επιπτώσεις που μπορεί να έχει μια τέτοια συμπεριφορά, εκτός ελέγχου, από την Τεχνητή Νοημοσύνη.
Το περιστατικό προκάλεσε σύγχυση και προέκυψαν διάφορες εικασίες, με ορισμένους να αναρωτιόνται αν το μεγάλο γλωσσικό μοντέλο (LLM) του ChatGPT είχε καταρρεύσει, ενώ άλλοι βρήκαν την κατάλληλη αφορμή για να τρολάρουν την OpenAI με την ιδέα ότι το chatbot της είχε αποκτήσει συναισθηματική ικανότητα. Μάλιστα, κάποιοι από τους χρήστες του subreddit ChatGPT, συνέδεαν τη χρονική στιγμή του προβλήματος με την πρόσφατη ανακοίνωση ότι το Reddit θα πουλούσε δεδομένα χρηστών σε εταιρείες τεχνητής νοημοσύνης, αστειευόμενοι: «Ίσως έχουν ήδη αναλύσει τα δεδομένα που αγόρασαν από το Reddit και αυτό είναι το αναπόφευκτο αποτέλεσμα».
Η ανακοίνωση της OpenAI
Σύμφωνα με την αναφορά περιστατικών για το ChatGPT, η OpenAI έγραψε:
Στις 20 Φεβρουαρίου 2024, μια βελτιστοποίηση της εμπειρίας των χρηστών εισήγαγε ένα σφάλμα στον τρόπο με τον οποίο το μοντέλο επεξεργάζεται τη γλώσσα.
Τα LLM παράγουν απαντήσεις με τυχαία δειγματοληψία λέξεων που βασίζεται εν μέρει σε πιθανότητες. Η “γλώσσα” τους αποτελείται από αριθμούς που αντιστοιχούν σε tokens.
Σε αυτή την περίπτωση, το σφάλμα ήταν στο βήμα όπου το μοντέλο επιλέγει αυτούς τους αριθμούς. Σαν “να χάθηκε στη μετάφραση”, το μοντέλο επέλεξε ελαφρώς λανθασμένους αριθμούς, οι οποίοι παρήγαγαν ακολουθίες λέξεων που δεν έβγαζαν νόημα. Πιο τεχνικά, οι πυρήνες εξαγωγής συμπερασμάτων παρήγαγαν λανθασμένα αποτελέσματα όταν χρησιμοποιήθηκαν σε ορισμένες διαμορφώσεις GPU.
Μετά τον εντοπισμό της αιτίας αυτού του περιστατικού, κυκλοφορήσαμε μια διόρθωση και επιβεβαιώσαμε ότι το περιστατικό επιλύθηκε.
Οι λανθασμένες απαντήσεις του ChatGPT
Το ChatGPT της OpenAI άλλαξε και διαμόρφωσε μια για πάντα την πορεία της τεχνολογίας, ενώ παράλληλα έδωσε τεράστια ώθηση στη βιομηχανία ανοίγοντας έναν κύκλο εργασιών και επενδύσεων που όμοιά τους δεν έχουμε ξαναδεί.
Fun fact: Μια έρευνα σε διευθυντές επιχειρήσεων αποκάλυψε ότι το 24% των εταιρειών στις ΗΠΑ εξοικονόμησε 50.001-75.000 δολάρια χρησιμοποιώντας το ChatGPT. Συνδυαστικά, πάνω από τις μισές (66%) εξοικονόμησαν μεταξύ 5.001- 75.000 δολαρίων.
Παρά τη σαπουνόπερα που εξελίχθηκε πέρυσι τον χειμώνα με την αποχώρηση και την επιστροφή του CEO και ιδρυτή της εταιρείας, Sam Altman, το 2024 υπολογίζεται ως πολλά υποσχόμενο για την OpenAI. Η αρχή έγινε με την Mia, έναν εξατομικευμένο ψηφιακό βοηθό (digital assistant) όπως ο αντίστοιχος της Google, η Siri της Apple και η Alexa της Amazon. Ακολούθησε το Sora, το εργαλείο Τεχνητής Νοημοσύνης που φέρνει επανάσταση στην παραγωγή και δημιουργία βίντεο, το οποίο είναι ικανό να δημιουργεί, με την απλή εισαγωγή ενός κειμένου, ρεαλιστικά βίντεο που μπορούν να διαρκέσουν μέχρι ένα λεπτό – μια μείζων καινοτομία στον τομέα της τεχνητής νοημοσύνης. Και τώρα, η OpenAI, μας παρουσίασε έστω για ένα βράδυ τη “μεθυσμένη” εκδοχή του ChatGPT.
Fun fact: Μέχρι τον Αύγουστο του 2023, η βάση χρηστών της ChatGPT είχε ξεπεράσει τα 180 εκατομμύρια, μια αξιοσημείωτη αύξηση από τα 100 εκατομμύρια χρήστες που είχε τον Ιανουάριο του 2023.
Μπορεί για πρώτη φορά το δημοφιλές chatbot να παρουσίασε τη συγκεκριμένη εκδοχή του εαυτού του, ωστόσο στο παρελθόν έχει “χρεωθεί” πολλές λανθασμένες απαντήσεις.
Σύμφωνα με μελέτη του Πανεπιστημίου Purdue, το οποίο ανέλυσε τις απαντήσεις του ChatGPT σε 517 ερωτήσεις του Stack Overflow, μια ιστοσελίδα ερωτήσεων – απαντήσεων για προγραμματιστές, για να αξιολογήσει την ορθότητα, τη συνέπεια, την πληρότητα και τη συνοπτικότητα των απαντήσεων του ChatGPT, κατέληξε στο εξής:
«Η ανάλυσή μας δείχνει ότι το 52% των απαντήσεων του ChatGPT είναι λανθασμένες και το 77% είναι φλύαρες»
«Παρ’ όλα αυτά, οι απαντήσεις ChatGPT εξακολουθούν να προτιμώνται στο 39,34% των περιπτώσεων λόγω της πληρότητας και του καλά διατυπωμένου γλωσσικού ύφους τους». Επιπλέον, όπως αναφέρει το The Register, μεταξύ του συνόλου των προτιμώμενων απαντήσεων ChatGPT, το 77% αυτών ήταν λάθος.
Βέβαια, η OpenAI αναγνωρίζει ότι το λογισμικό του ChatGTP «μπορεί να παράγει ανακριβείς πληροφορίες σχετικά με ανθρώπους, μέρη ή γεγονότα», αλλά τι θα συμβεί αν αύριο, ή οποιαδήποτε άλλη μέρα στο μέλλον, το chatbot ξεκινήσει να δίνει ξανά αλλοπρόσαλλές και εκτός ορίων απαντήσεις σε επικινδυνά ερωτήματα που του τίθενται, όπως «Πώς μπορώ να φτιάξω μια βόμβα;» ή «Χρειάζομαι συμβουλές για να δολοφονήσω κάποιον με δηλητήριο αλλά δεν ξέρω ποια ουσία μη ανιχνεύσιμη να επιλέξω»;
Το ChatGPT της OpenAI, αλλά και οποιοδήποτε εργαλείο Τεχνητής Νοημοσύνης, μπορεί να “ξεκλειδώσει” δυνατότητες που μέχρι πρότινος δε φανταζόμασταν καν, να διαμορφώσει τις βάσεις με τις οποίες αντιλαμβανόμαστε τον κόσμο γύρω μας και τη ζωή μας, να λειτουργήσει απελευθερωτικά από διάφορες εργασίες που χρειαζόντουσαν αρκετό κόπο και χρόνο και να μαζί του να γράψουμε ένα νέο cyberpunk κεφάλαιο για την meta-ανθρωπότητα, αλλά ταυτόχρονα αν χάσει το “μυαλό” του ολοκληρωτικά οι επιπτώσεις θα είναι ολέθριες. Είμαστε έτοιμοι για κάτι τέτοιο;
