Ένα δυστοπικό σύμπαν επιστημονικής φαντασίας στο οποίο αναδύονται ως ηγέτες οι υπολογιστές είναι αρκετά μακρινό από την σημερινή μας πραγματικότητα. Αυτό που με βεβαιότητα βιώνουμε καθημερινά είναι ότι η τεχνητή νοημοσύνη είναι τόσο έξυπνη όσο οι άνθρωποι που την προγραμματίζουν. Σίγουρα όμως είναι αρκετά πιο αποτελεσματική στην ανάλυση και στην διεξαγωγή συμπερασμάτων. Αυτή η ικανότητα όμως μπορεί να φανεί επικίνδυνη όταν συνοδεύεται από μεροληπτικά σύνολα δεδομένων που ο άνθρωπος ακούσια την τροφοδοτεί.
Η συζήτηση και η ανησυχία γύρω από την τεχνητή νοημοσύνη (ΤΝ) έχει πυροδοτησει ανησυχίες και συζητήσεις στους χώρους εργασίας σε όλο τον κόσμο. Οι εταιρείες αγκαλιάζουν τα εργαλεία τεχνητής νοημοσύνης και τα χρησιμοποιούν ολοένα και περισσότερο για να υπερτροφοδοτήσουν τις δραστηριότητές τους ενώ ο φόβος της αντικατάστασής μας απο αυτά είναι ολοένα και πιο έντονος. Η γενετική τεχνητή νοημοσύνη φαίνεται να κατέχει το κλειδί για την προώθηση της παγκόσμιας παραγωγικότητας με τις επικρατούσες εκτιμήσεις να δείχνουν ότι η επιρροή της θα μπορούσε να κυμαίνεται από 2,6 τρισεκατομμύρια δολάρια έως 4,4 τρισεκατομμύρια δολάρια ετησίως. Η χρήση της πλέον έχει κατακτήσει απρόσκοπτα και τον τομέα των προσλήψεων και της διαχείρισης ανθρώπινου δυναμικού. Και αυτό συμβαίνει γιατί έχει μία μοναδική ικανότητα να ταξινομεί άμεσα σωρούς αιτήσεων εργασίας και να ξεχωρίζει τους υποψήφιους που καλύπτουν όλες τις προδιαγραφές μέσω προγνωστικής ανάλυσης και μηχανικής μάθησης.
Σύμφωνα με έρευνα , η παγκόσμια παραγωγική τεχνητή νοημοσύνη ηγείται του τμήματος προσλήψεων και ανθρώπινου δυναμικού, καταλαμβάνοντας το 28% του μεριδίου αγοράς. Το Generative AI χρησιμοποιείται εκτενώς για την αυτοματοποίηση και τον εξορθολογισμό διαφορετικών πτυχών της διαδικασίας πρόσληψης, από το ξεσκαρτάρισμα αιτούντων έως την αντιστοίχιση υποψηφίων. Μια έρευνα της IBM στα τέλη του 2023 σε περισσότερους από 8.500 παγκόσμιους επαγγελματίες πληροφορικής έδειξε ότι το 42% των εταιρειών χρησιμοποιούσαν έλεγχο τεχνητής νοημοσύνης «για να βελτιώσουν τη στρατολόγηση και τους ανθρώπινους πόρους».
Σύντομα, όλοι οι επιχειρηματικοί τομείς και οι δραστηριότητες θα βρίσκονται υπό πίεση να υιοθετήσουν την τεχνητή νοημοσύνη με κάποια μορφή ή την άλλη. Αλλά η ίδια η φύση της τεχνητής νοημοσύνης – και τα δεδομένα πίσω από τις διαδικασίες και τα αποτελέσματά της – σημαίνει ότι οι ανθρώπινες προκαταλήψεις ενσωματώνονται στην τεχνολογία.
Πολλοί ηγέτες σε όλο τον κόσμο των επιχειρήσεων ήλπιζαν ότι η τεχνολογία στρατολόγησης τεχνητής νοημοσύνης θα έδινε λοιπόν ένα τέλος στα στερεότυπα στη διαδικασία προσλήψεων και αυτό γιατί η ΤΝ στις προσλήψεις υπόσχεται μεγαλύτερη αντικειμενικότητα και αποτελεσματικότητα κατά τη διαδικασία πρόσληψης, εξαλείφοντας τις ανθρώπινες προκαταλήψεις και ενισχύοντας τη δικαιοσύνη και τη συνέπεια στη λήψη αποφάσεων.
Ωστόσο, σε ορισμένες περιπτώσεις, συμβαίνει το αντίθετο. Ορισμένοι ειδικοί λένε ότι αυτά τα εργαλεία ελέγχουν ανακριβώς μερικούς από τους πιο καταρτισμένους υποψήφιους για εργασία εξαιρώντας μάλιστα κάποιους από τους πιο άξιους και ιδανικούς για τη θέση. Καθώς οι εταιρείες βασίζονται όλο και περισσότερο σε πλατφόρμες προσλήψεων με γνώμονα την τεχνητή νοημοσύνη, υπάρχουν δυστυχώς ανησυχίες ότι πολλοί υποψήφιοι υψηλής ειδίκευσης φαίνεται να κόβονται από τα εργαλεία ΤΝ.
View this post on Instagram
Σύμφωνα με έρευνα η τεχνητή νοημοσύνη μπορεί διακριτικά να αυξήσει τις προκαταλήψεις. Αυτό συμβαίνει επειδή η ΤΝ μαθαίνει από τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευσή της.
Εάν τα δεδομένα είναι ελαττωματικά, τα συστήματα ΤΝ θα είναι επίσης.
Συνομιλώντας στο Digital World Summit Greece, με την καθηγήτρια Λίλιαν Μήτρου, από το Τμήμα Μηχανικών Πληροφοριακών & Επικοινωνιακών Συστημάτων του Πανεπιστημίου Αιγαίου, για τις προκαταλήψεις και τα στερεότυπα στον χώρο της ΤΝ, μου υπογράμμισε την περίπτωση της Amazon που χρησιμοποιούσε συστήματα ΤΝ στην διαδικασία πρόσληψης.
«Πρόκειται για ένα αντιπροσωπευτικό παράδειγμα, καθώς τα συστήματα ΤΝ της Amazon είχαν εκπαιδευτεί στα ιστορικά δεδομένα της εταιρείας. Καθώς λοιπόν στις ηγετικές θέσεις μέχρι κατά κύριο λόγο υπήρχαν μόνο άνδρες, μία γυναίκα με τα ίδια προσόντα, βρισκόταν εκτός shortlist. Δεν υπήρχε λάθος στην εκπαίδευση, απλά τα μοτίβα των δεδομένων στα οποία έχουν εκπαιδευτεί απέκτησαν το στερεότυπο που υπήρχε μέχρι τότε απέναντι σε μία κοινωνική ομάδα. »
Το 2015, η Amazon ήταν μεταξύ των τιτάνων της τεχνολογίας των οποίων το εργατικό δυναμικό ήταν δυσανάλογα υψηλό σε άνδρες υπαλλήλους ειδικά σε υψηλόβαθμες θέσεις. Τα δεδομένα που χρησιμοποίησαν για να εκπαιδεύσουν το σύστημα πρόσληψης (βιογραφικά των μέχρι τότε υπαλλήλων) υπέδειξαν ακούσια ότι οι άντρες υποψήφιοι ήταν οι καλύτερες επιλογές, ενσταλάζοντας μεροληψία πρόσληψης στη διαδικασία απόκτησης ταλέντων τους.
Αυτός ο αγωγός κακής εισαγωγής δεδομένων που οδηγεί σε κακή έξοδο δεδομένων αναφέρεται συνήθως ως Garbage In, Garbage Out. Στην πράξη, αυτό σημαίνει ότι το λαμπερό νέο εργαλείο στρατολόγησης της Amazon τιμωρούσε βιογραφικά γυναικών, βγάζοντάς τα άκυρα από τη διαδικασία πρόσληψής τους. «Τα ιστορικά δεδομένα βρίσκονται στη ρίζα πολλών συστημάτων πρόσληψης τεχνητής νοημοσύνης», σημειώνει στο CNBC ο Jamie Viramontes, Διευθύνων Σύμβουλος και ιδρυτής της Konnect, ο οποίος στο παρελθόν ήταν επικεφαλής του HR για επωνυμίες όπως η Forever 21, η Chipotle και το St. Francis Medical Center.
«Η προκατάληψη των στερεοτύπων εμφανίζεται όταν οι αποφάσεις επηρεάζονται από στερεότυπα για ορισμένες ομάδες, όπως η προτίμηση υποψηφίων του ίδιου φύλου, οδηγώντας σε ανισότητα μεταξύ των φύλων. Η μεροληψία “Similar-to-me” συμβαίνει όταν οι υπεύθυνοι προσλήψεων ευνοούν υποψηφίους που έχουν παρόμοιο υπόβαθρο ή ενδιαφέροντα». Αυτό οδηγεί σε προκατειλημμένη τεχνητή νοημοσύνη. Έτσι, εάν οι προηγούμενες πρακτικές προσλήψεων ευνόησαν ορισμένα δημογραφικά στοιχεία, η τεχνητή νοημοσύνη θα συνεχίσει να το κάνει. Ο μετριασμός αυτών των προκαταλήψεων είναι πρόκληση, επειδή οι αλγόριθμοι μπορούν να συνάγουν προσωπικές πληροφορίες με βάση κρυμμένα δεδομένα από άλλες συσχετισμένες πληροφορίες. Για παράδειγμα, σε χώρες με διαφορετική διάρκεια στρατιωτικής θητείας για άνδρες και γυναίκες, μια τεχνητή νοημοσύνη μπορεί να συναγάγει το φύλο με βάση τη διάρκεια της υπηρεσίας.
Η μετασχηματιστική δύναμη αυτής της τεχνολογίας μπορεί να φέρει επανάσταση στα επιχειρηματικά μοντέλα και να διαταράξει πολλούς κλάδους, παρέχοντας ανταγωνιστικά πλεονεκτήματα και ευκαιρίες για δημιουργική καταστροφή. Καθώς το έπος της γενετικής τεχνητής νοημοσύνης ξετυλίγεται με την ολοένα και μεγαλύτερη εμπλοκή της σε κάθε πτυχή της ζωής μας, η βαθιά κατανόηση των εσωτερικών μηχανισμών της τεχνολογίας καθίσταται επιτακτική ενώ υπογραμμίζεται η ανάγκη για προσεκτικό σχεδιασμό και παρακολούθηση για τη διασφάλιση της δικαιοσύνης τόσο στις διαδικασίες πρόσληψης ανθρώπων όσο και στις διαδικασίες στρατολόγησης που βασίζονται στην τεχνητή νοημοσύνη.
➳ Δείτε επίσης: Μπορεί η τεχνητή νοημοσύνη να αντικαταστήσει την ανθρώπινη δημιουργικότητα;
