«Ο μετριασμός του κινδύνου εξαφάνισης [του ανθρώπου] από την τεχνητή νοημοσύνη θα πρέπει να αποτελέσει παγκόσμια προτεραιότητα μαζί με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος», αναφέρεται στην ανακοίνωση.

Ο Sam Altman, διευθύνων σύμβουλος της OpenAI που έχει δημιουργήσει το ChatGPT, και ο Geoffrey Hinton, ένας επιστήμονας γνωστός ως «νονός της τεχνητής νοημοσύνης», ήταν μεταξύ των εκατοντάδων μεγάλων προσωπικοτήτων που υπέγραψαν τη δήλωση, η οποία αναρτήθηκε στη σελίδα του Κέντρου για την Ασφάλεια της Τεχνητής Νοημοσύνης (Center for AI Safety).

Οι ανησυχίες σχετικά με τα συστήματα τεχνητής νοημοσύνης που «ξεπερνούν τους ανθρώπους» και εξελίσσονται, έχουν ενταθεί με την άνοδο μιας νέας γενιάς εξαιρετικά ικανών chatbots τεχνητής νοημοσύνης, όπως το ChatGPT. Αυτό έχει οδηγήσει τις χώρες σε όλο τον κόσμο να θεσπίσουν κανονισμούς για την αναπτυσσόμενη τεχνολογία, με την Ευρωπαϊκή Ένωση να ανοίγει το δρόμο με σχετική νομοθεσία για την τεχνητή νοημοσύνη, που αναμένεται να εγκριθεί αργότερα φέτος.

Αυτή η τελευταία προειδοποίηση ήταν σκόπιμα συνοπτική -μόνο μια πρόταση- για να συμπεριλάβει έναν ευρύ συνασπισμό επιστημόνων που μπορεί να μην συμφωνούν για τους πιο πιθανούς κινδύνους ή τις καλύτερες δυνατές λύσεις για την πρόληψή τους, δήλωσε ο Dan Hendrycks, εκτελεστικός διευθυντής του μη κερδοσκοπικού Κέντρου για την Ασφάλεια της Τεχνητής Νοημοσύνης με έδρα το Σαν Φρανσίσκο, το οποίο οργάνωσε την κίνηση.

«Υπάρχουν άνθρωποι από όλα τα κορυφαία πανεπιστήμια, σε διάφορους τομείς, που ανησυχούν από αυτό [την τεχνητή νοημοσύνη] και πιστεύουν ότι είναι μια παγκόσμια προτεραιότητα», δήλωσε ο Hendrycks. «Έπρεπε λοιπόν να πείσουμε τους ανθρώπους να βγουν κατά κάποιον τρόπο από “την ντουλάπα”, ας πούμε, για το θέμα αυτό, επειδή πολλοί μιλούσαν κατά κάποιον τρόπο σιωπηλά μεταξύ τους».

Περισσότεροι από 1.000 ερευνητές και τεχνολόγοι, συμπεριλαμβανομένου του Elon Musk, είχαν υπογράψει νωρίτερα φέτος μια πολύ μεγαλύτερη επιστολή που ζητούσε εξάμηνη παύση στην ανάπτυξη της Τεχνητής Νοημοσύνης, λέγοντας ότι εγκυμονεί «βαθύτατους κινδύνους για την κοινωνία και την ανθρωπότητα». Αυτή η επιστολή ήταν μια απάντηση στην κυκλοφορία του GPT-4, ένα νέο μοντέλο ΤΝ από την OpenAI, αλλά οι ηγέτες του OpenAI, του εταίρου του, της Microsoft, και της αντίπαλης Google δεν υπέγραψαν τότε και απέρριψαν την έκκληση για εθελοντική παύση της βιομηχανίας.

Αντίθετα, η τελευταία δήλωση υποστηρίχθηκε από τους επικεφαλής τεχνολογίας και επιστήμης της Microsoft, καθώς και από τον Demis Hassabis, διευθύνοντα σύμβουλο του ερευνητικού εργαστηρίου τεχνητής νοημοσύνης DeepMind της Google, και δύο στελέχη της Google που ηγούνται των προσπαθειών πολιτικής της για την τεχνητή νοημοσύνη. Η δήλωση δεν προτείνει συγκεκριμένα διορθωτικά μέτρα, αλλά ορισμένοι, συμπεριλαμβανομένου του Altman, πρότειναν μια διεθνή ρυθμιστική αρχή κατά το πρότυπο της πυρηνικής υπηρεσίας του ΟΗΕ.

Ορισμένοι επικριτές αυτών των κινήσεων, έχουν αναφέρει ότι οι προειδοποιήσεις για «υπαρξιακούς κινδύνους», που εκφράζονται από τους κατασκευαστές της τεχνητής νοημοσύνης, έχουν συμβάλει στην υπερπροβολή των δυνατοτήτων των προϊόντων τους και στην απόσπαση της προσοχής από τις εκκλήσεις για πιο άμεσες ρυθμίσεις για τον περιορισμό των προβλημάτων τους στον πραγματικό κόσμο.

Ο Hendrycks δήλωσε ότι δεν υπάρχει κανένας λόγος για τον οποίο η κοινωνία δεν μπορεί να διαχειριστεί τα «επείγοντα και συνεχόμενα προβλήματα» των προϊόντων ΤΝ που δημιουργούν νέα κείμενα ή εικόνες, ενώ παράλληλα θα αρχίσει να αντιμετωπίζει τις επικείμενες «πιθανές καταστροφές» από άλλα πεδία. Το παρομοίασε με τους πυρηνικούς επιστήμονες της δεκαετίας του 1930 που προειδοποιούσαν τους ανθρώπους να είναι προσεκτικοί, παρόλο που «δεν είχαμε αναπτύξει ακόμα τη βόμβα».

«Κανείς δεν λέει ότι το GPT-4 ή το ChatGPT σήμερα προκαλεί τέτοιου είδους ανησυχίες», δήλωσε ο Hendrycks. «Προσπαθούμε να αντιμετωπίσουμε αυτούς τους κινδύνους πριν συμβούν, αντί να προσπαθούμε να αντιμετωπίσουμε τις καταστροφές εκ των υστέρων».

Την επιστολή υπογράφουν επίσης εμπειρογνώμονες σε θέματα πυρηνικής επιστήμης, πανδημιών και κλιματικής αλλαγής. Μεταξύ των υπογραφόντων είναι και ο συγγραφέας Bill McKibben, ο οποίος έκρουσε τον κώδωνα του κινδύνου για την υπερθέρμανση του πλανήτη στο βιβλίο του «Το τέλος της φύσης» (The End of Nature) το 1989 και προειδοποίησε για την τεχνητή νοημοσύνη και τις συναφείς τεχνολογίες πριν από δύο δεκαετίες σε ένα άλλο βιβλίο.

«Δεδομένης της αποτυχίας μας να λάβουμε υπόψη τις πρώιμες προειδοποιήσεις για την κλιματική αλλαγή πριν από 35 χρόνια, μου φαίνεται ότι θα ήταν έξυπνο να σκεφτούμε πραγματικά αυτό το θέμα πριν όλα γίνουν πράξη», δήλωσε μέσω email στο Now This News την Τρίτη.

Ένας ακαδημαϊκός που βοήθησε να προωθηθεί η επιστολή δήλωσε ότι συνήθιζε «να χλευάζεται για τις ανησυχίες του» σχετικά με τον υπαρξιακό κίνδυνο της τεχνητής νοημοσύνης, ακόμη και όταν οι ραγδαίες εξελίξεις στην έρευνα της μηχανικής μάθησης κατά την τελευταία δεκαετία έχουν ξεπεράσει τις προσδοκίες πολλών ανθρώπων.

Ο David Krueger, επίκουρος καθηγητής πληροφορικής στο Πανεπιστήμιο του Κέιμπριτζ, δήλωσε ότι μέρος του δισταγμού στο να μιλήσουν οι επιστήμονες είναι ότι δεν θέλουν να θεωρηθεί ότι θέλουν να δώσουν «συνείδηση» στην τεχνητή νοημοσύνη «ή ότι η τεχνητή νοημοσύνη κάνει κάτι μαγικό», και τόνισε ότι τα συστήματα ΤΝ δεν χρειάζεται να έχουν αυτογνωσία ή να θέτουν τους δικούς τους στόχους για να αποτελέσουν απειλή για την ανθρωπότητα.

«Δεν είμαι προσκολλημένος σε κάποιο συγκεκριμένο είδος κινδύνου. Νομίζω ότι υπάρχουν πολλοί διαφορετικοί τρόποι για να πάνε τα πράγματα άσχημα», δήλωσε ο Krueger. «Αλλά νομίζω ότι αυτός που είναι ιστορικά ο πιο αμφιλεγόμενος, είναι ο κίνδυνος εξαφάνισης, ειδικά από συστήματα τεχνητής νοημοσύνης που ξεφεύγουν από τον έλεγχό μας».

Πηγή: Now This News