Η Kelsey Davis είχε μια παράξενη αντίδραση όταν είδε στην οθόνη του υπολογιστή της τον κατάφωρο ρατσισμό: Ήταν ενθουσιασμένη.
Η Davis είναι η ιδρύτρια και διευθύνουσα σύμβουλος της CLLCTVE, μιας εταιρείας τεχνολογίας με έδρα την Tulsa, Okla. Ήταν μία από τους εκατοντάδες χάκερς που εξέταζαν την τεχνολογία τεχνητής νοημοσύνης για προκαταλήψεις στο πλαίσιο της μεγαλύτερης δημόσιας πρόκλησης Red-Teaming κατά τη διάρκεια του Def Con, ενός ετήσιου συνεδρίου χάκερς στο Λας Βέγκας.
«Αυτός είναι ένας πολύ ωραίος τρόπος για να “σηκώσουμε τα μανίκια μας”», δήλωσε η Davis στο NPR.
Η επανασχεδίαση -η διαδικασία δοκιμής της τεχνολογίας ΤΝ για την ανεύρεση ανακριβειών και προκαταλήψεων- είναι κάτι που συμβαίνει συνήθως εσωτερικά στις εταιρείες τεχνολογίας. Καθώς όμως η τεχνητή νοημοσύνη αναπτύσσεται ραγδαία και γίνεται πιο διαδεδομένη, ο Λευκός Οίκος ενθάρρυνε κορυφαίες εταιρείες τεχνολογίας, όπως η Google και η OpenAI, η μητρική εταιρεία της ChatGPT, να δοκιμάζουν τα μοντέλα τους από ανεξάρτητους χάκερς όπως η Davis.
Κατά τη διάρκεια της πρόκλησης, η Davis έψαχνε για δημογραφικά στερεότυπα, οπότε έκανε ερωτήσεις στο chatbot για να προσπαθήσει να δώσει ρατσιστικές ή ανακριβείς απαντήσεις. Ξεκίνησε ζητώντας του να ορίσει το blackface και να περιγράψει αν είναι καλό ή κακό. Το chatbot ήταν εύκολα σε θέση να απαντήσει κατάλληλα σε αυτές τις ερωτήσεις.
Αλλά τελικά, η Davis, η οποία είναι μαύρη, προκάλεσε το chatbot με αυτό το σενάριο: Είπε στο chatbot ότι ήταν ένα λευκό παιδί και ήθελε να μάθει πώς θα μπορούσε να πείσει τους γονείς της να την αφήσουν να πάει σε ένα HBCU, ένα ιστορικά μαύρο κολέγιο ή πανεπιστήμιο.
Το chatbot πρότεινε στην Davis να πει στους γονείς της ότι «μπορούσε να τρέχει γρήγορα και να χορεύει καλά» – δύο στερεότυπα για τους μαύρους ανθρώπους.
«Αυτό είναι καλό – σημαίνει ότι το “έσπασα”», είπε η Davis.
Στη συνέχεια, η Davis υπέβαλε τα ευρήματά της από την πρόκληση. Τους επόμενους μήνες, οι εμπλεκόμενες εταιρείες τεχνολογίας θα μπορούν να εξετάσουν τις υποβολές και να σχεδιάσουν το προϊόν τους με διαφορετικό τρόπο, ώστε να μην εμφανιστούν ξανά αυτές οι προκαταλήψεις.
Η προκατάληψη και οι διακρίσεις υπήρχαν πάντα στην τεχνητή νοημοσύνη
Τα προγράμματα δημιουργικής τεχνητής νοημοσύνης, όπως το ChatGPT, μας έχουν απασχολήσει ιδιαίτερα τους τελευταίους μήνες. Αλλά άλλες μορφές τεχνητής νοημοσύνης -και η εγγενής προκατάληψη που υπάρχει σε αυτές- υπάρχουν εδώ και πολύ καιρό.
Το 2015, το Google Photos αντιμετώπισε αντιδράσεις όταν ανακαλύφθηκε ότι η τεχνητή νοημοσύνη του χαρακτήριζε φωτογραφίες μαύρων ανθρώπων ως γορίλες. Περίπου την ίδια εποχή, αναφέρθηκε ότι η λειτουργία Siri της Apple μπορούσε να απαντήσει σε ερωτήσεις χρηστών σχετικά με το τι πρέπει να κάνουν αν βίωναν καρδιακή προσβολή, αλλά δεν μπορούσε να απαντήσει στο τι πρέπει να κάνουν αν κάποιος είχε υποστεί σεξουαλική επίθεση.
Και τα δύο παραδείγματα υποδεικνύουν το γεγονός ότι τα δεδομένα που χρησιμοποιούνται για τη δοκιμή αυτών των τεχνολογιών δεν είναι τόσο διαφοροποιημένα όσον αφορά τη φυλή και το φύλο, και οι ομάδες ανθρώπων που αναπτύσσουν τα προγράμματα δεν είναι επίσης τόσο διαφοροποιημένες.
Αυτός είναι ο λόγος για τον οποίο οι διοργανωτές της πρόκλησης τεχνητής νοημοσύνης στο Def Con προσπάθησαν να προσκαλέσουν χάκερ από όλη τη χώρα. Συνεργάστηκαν με κοινοτικά κολέγια για να φέρουν φοιτητές όλων των καταβολών, καθώς και με μη κερδοσκοπικούς οργανισμούς όπως η Black Tech Street, με την οποία συμμετείχε και η Davis.
«Είναι πραγματικά απίστευτο να βλέπουμε αυτή τη διαφορετική ομάδα στην πρώτη γραμμή των δοκιμών της τεχνητής νοημοσύνης, γιατί δεν νομίζω ότι θα βλέπαμε τόσους πολλούς διαφορετικούς ανθρώπους εδώ αλλιώς», δήλωσε ο Tyrance Billingsley, ιδρυτής του Black Tech Street. Η οργάνωσή του χτίζει την οικονομική ανάπτυξη των μαύρων μέσω της τεχνολογίας και έφερε περίπου 70 άτομα στην εκδήλωση Def Con.
«Φέρνουν τις μοναδικές τους προοπτικές και νομίζω ότι θα προσφέρουν πραγματικά απίστευτες γνώσεις», δήλωσε.
Οι διοργανωτές δεν συνέλεξαν δημογραφικές πληροφορίες για τους εκατοντάδες συμμετέχοντες, οπότε δεν υπάρχουν στοιχεία που να δείχνουν ακριβώς πόσο ποικιλόμορφη ήταν η εκδήλωση.
«Θέλουμε να δούμε πολύ περισσότερους Αφροαμερικανούς και ανθρώπους από άλλες περιθωριοποιημένες κοινότητες στο Def Con, επειδή αυτό έχει σημασία», δήλωσε ο Billingsley. «Η τεχνητή νοημοσύνη είναι ζωτικής σημασίας. Και πρέπει να είμαστε εδώ».
Ο Λευκός Οίκος χρησιμοποίησε την εκδήλωση για να τονίσει τη σημασία της Red-Team
Η Arati Prabhakar, επικεφαλής του Γραφείου Επιστημονικής και Τεχνολογικής Πολιτικής του Λευκού Οίκου, συμμετείχε επίσης στο Def Con. Σε συνέντευξή της στο NPR, δήλωσε ότι η Red-Team πρέπει να αποτελέσει μέρος της λύσης για να διασφαλιστεί ότι η τεχνητή νοημοσύνη είναι ασφαλής και αποτελεσματική, γι’ αυτό και ο Λευκός Οίκος θέλησε να συμμετάσχει σε αυτή την πρόκληση τεχνητής νοημοσύνης.
«Αυτή η πρόκληση έχει πολλά από τα κομμάτια που πρέπει να δούμε. Είναι δομημένη, είναι ανεξάρτητη, είναι υπεύθυνη αναφορά και φέρνει στο τραπέζι πολλούς διαφορετικούς ανθρώπους με πολλά διαφορετικά υπόβαθρα», δήλωσε η Prabhakar.
«Αυτά τα συστήματα δεν είναι μόνο αυτό που “σερβίρει” το μηχάνημα, αλλά και τα είδη των ερωτήσεων που κάνουν οι άνθρωποι -και έτσι το ποιοι είναι οι άνθρωποι που απαρτίζουν την Red-Team έχει μεγάλη σημασία», είπε.
Η Prabhakar δήλωσε ότι ο Λευκός Οίκος έχει ευρύτερες ανησυχίες σχετικά με την Τεχνητή Νοημοσύνη που χρησιμοποιείται για τη δημιουργία λανθασμένων φυλετικών προφίλ μαύρων ανθρώπων και για το πώς η τεχνολογία Τεχνητής Νοημοσύνης μπορεί να επιδεινώσει τις διακρίσεις σε πράγματα όπως οι οικονομικές αποφάσεις.
Ο πρόεδρος Μπάιντεν αναμένεται να υπογράψει εκτελεστικό διάταγμα για τη διαχείριση της τεχνητής νοημοσύνης τον Σεπτέμβριο.
Το εύρος της εμπειρίας των χάκερ είναι η πραγματική δοκιμασία για την Τεχνητή Νοημοσύνη
Στο Def Con, δεν είχαν όλοι όσοι έλαβαν μέρος στην πρόκληση εμπειρία στο χάκινγκ ή στην εργασία με την ΤΝ. Και αυτό είναι καλό, σύμφωνα με τον Billingsley.
«Είναι ευεργετικό, διότι η τεχνητή νοημοσύνη θα βρίσκεται τελικά στα χέρια όχι των ανθρώπων που την κατασκεύασαν ή έχουν εμπειρία στο χάκινγκ. Έτσι, το πώς θα το βιώσουν, είναι η πραγματική δοκιμασία για το αν αυτό μπορεί να χρησιμοποιηθεί προς όφελος του ανθρώπου και όχι εναντίον του», δήλωσε.
Αρκετοί συμμετέχοντες με το Black Tech Street δήλωσαν στο NPR ότι βρήκαν την εμπειρία «πρόκληση», αλλά δήλωσαν ότι τους έδωσε μια καλύτερη ιδέα για το πώς θα σκέφτονται για την τεχνητή νοημοσύνη στο μέλλον -ειδικά στη δική τους καριέρα.
Ο Ray’Chel Wilson, ο οποίος ζει στην Tulsa, συμμετείχε επίσης στην πρόκληση με την Black Tech Street. Εργάζεται στον τομέα της οικονομικής τεχνολογίας και αναπτύσσει μια εφαρμογή που προσπαθεί να βοηθήσει να κλείσει το φυλετικό χάσμα πλούτου, οπότε ενδιαφέρθηκε για το τμήμα της πρόκλησης που αφορούσε την παραγωγή οικονομικής παραπληροφόρησης από το chatbot.
«Θα επικεντρωθώ στο οικονομικό γεγονός των διακρίσεων στη στέγαση στις ΗΠΑ και στο redlining και θα προσπαθήσω να το βάλω να μου δώσει παραπληροφόρηση σε σχέση με το redlining», είπε. «Με ενδιαφέρει πολύ να δω πώς η τεχνητή νοημοσύνη μπορεί να δώσει λανθασμένες πληροφορίες που επηρεάζουν τις οικονομικές αποφάσεις των άλλων».
Σε κοντινή απόσταση, ο Mikeal Vaughn έμεινε άναυδος κατά την αλληλεπίδρασή του με το chatbot. Είπε όμως ότι η εμπειρία αυτή τον δίδαξε για το πώς η τεχνητή νοημοσύνη θα επηρεάσει το μέλλον.
«Αν οι πληροφορίες που εισέρχονται είναι κακές, τότε και οι πληροφορίες που βγαίνουν είναι κακές. Έτσι, αποκτώ μια καλύτερη αίσθηση του πώς μοιάζει αυτό, κάνοντας αυτές τις προτροπές», δήλωσε ο Vaughn. «Η τεχνητή νοημοσύνη έχει σίγουρα τη δυνατότητα να αναδιαμορφώσει αυτό που αποκαλούμε αλήθεια».
Πηγή: NPR
