Αν έχετε συμβουλευτεί ποτέ μια συνταγή για να μαγειρέψετε κάτι νόστιμο ή να για να φτιάξετε ένα γεύμα, τότε έχετε χρησιμοποιήσει έναν αλγόριθμο, γιατί στην πιο βασική τους μορφή, αυτό είναι ο αλγόριθμος. Οι αλγόριθμοι είναι πανάρχαιοι, με ιστορία χιλιάδων ετών. Σήμερα, ωστόσο, είναι πιο πολύπλοκοι και έχουν πολύ μεγαλύτερο αντίκτυπο και επιρροή στις σύγχρονες κοινωνίες μας, σε όλο τον κόσμο και σχεδόν σε κάθε πολιτισμό.
Τους έχουμε δώσει εξουσία και δύναμη, τόσο πάνω σε εμάς τους ίδιους, όσο και στο κοινωνικό μας σύστημα. Τους έχουμε εκπαιδεύσει και κάποιοι υποστηρίζουν ότι αυτοί μας εκπαιδεύουν. Οι αλγόριθμοι χρησιμοποιούνται σε όλες τις μορφές Τεχνητής Νοημοσύνης (ΤΝ), από τα Νευρωνικά Δίκτυα και τη Μηχανική Μάθηση μέχρι τα Μεγάλα Γλωσσικά Μοντέλα (ΜΓΜ) όπως το ChatGPT και το Claude.
Οι αλγόριθμοι εμφανίζονται σχεδόν σε κάθε πτυχή της καθημερινής μας ζωής, από τη μουσική που ακούμε, τις εκπομπές που παρακολουθούμε, μέχρι τα τραπεζικά δάνεια, τις ασφάλειες, και τις θέσεις εργασίας που αναζητούμε. Χρησιμοποιούνται για να αξιολογούν την απόδοσή μας στην εργασία, για να καταδικάζουν εγκληματίες, για να αποδίδουν την πιστωτική μας βαθμολογία, να ανιχνεύουν τον καρκίνο, να δημιουργούν νέα φάρμακα. Οι αλγόριθμοι χρησιμοποιούνται για πολλά ωφέλιμα πράγματα. Κάποιες φορές, όμως, αποτυγχάνουν.
Δεν φταίει ο αλγόριθμος όταν κάνουν λάθος. Μερικές φορές, δεν έχουμε ιδέα γιατί κάνουν λάθος. Τι προκάλεσε το σφάλμα τους. Οι αλγόριθμοι δεν γνωρίζουν πότε έκαναν λάθος. Οι αλγόριθμοι, οι μηχανές, δεν εφαρμόζουν κρίση, γνώμη, ή λογική ή συναίσθημα. Γιατί δεν διαθέτουν καμία από αυτές τις πτυχές της ανθρώπινης ύπαρξης. Είναι μηχανές. Κάνουν αυτό για το οποίο έχουν εκπαιδευτεί.
Οι άνθρωποι καταλαβαίνουν. Οι μηχανές όχι. Οι άνθρωποι έχουν συνείδηση. Οι μηχανές όχι. Ωστόσο, οι αλγόριθμοι έχουν εξουσία.
Η κουλτούρα βρίσκεται στον κώδικα, ο κώδικας βρίσκεται στην κουλτούρα. Οι αλγόριθμοι δημιουργούνται από ανθρώπους. Σήμερα, ορισμένοι αλγόριθμοι μπορούν να δημιουργήσουν άλλους αλγόριθμους, αλλά όλοι ξεκίνησαν κάποια στιγμή από έναν άνθρωπο ή ανθρώπους. Το ποιος γράφει τον κώδικα επηρεάζει τα αποτελέσματα.
Γνωρίζουμε ότι γι’ αυτό το λόγο είχαμε σοβαρά προβλήματα, όπως οι προκαταλήψεις λόγω φύλου και φυλής. Η τάση των συστημάτων τεχνητής νοημοσύνης να καταδικάζουν περισσότερο τους μαύρους από ό,τι τους λευκούς ή τους Ασιάτες. Η χρήση της τεχνητής νοημοσύνης στο λογισμικό προσλήψεων έχει συχνά προτιμήσει τους λευκούς άνδρες έναντι των γυναικών ή των μη λευκών.
Οι αλγόριθμοι γνωρίζουν μόνο δύο φύλα: αρσενικό και θηλυκό. Δεν έχουν ιδέα για τα LGB2TQS+. Ωστόσο, η ταυτότητα φύλου είναι ρευστή και μεταβαλλόμενη στις ανθρώπινες κοινωνίες εδώ και χιλιάδες χρόνια, αλλά αυτό δεν έχει ακόμη κωδικοποιηθεί στους αλγορίθμους.
Η καθημερινή ζωή των ανθρώπων εμπλέκεται από πολιτισμικά, βιολογικά και υλικά στοιχεία όπως ο αέρας, οι ιδέες, το νερό, οι ιοί. Ο καθημερινός μόχθος ενός αλγορίθμου είναι συνυφασμένος με κέντρα δεδομένων, δίκτυα οπτικών ινών, κώδικα, λογισμικό και δεδομένα. Οι άνθρωποι καταλαβαίνουν. Οι μηχανές όχι. Οι άνθρωποι έχουν συνείδηση. Οι μηχανές όχι. Ωστόσο, οι αλγόριθμοι έχουν εξουσία.
Αρχίζουμε πλέον να αμφισβητούμε αυτή την εξουσία. Αυτό φαίνεται μέσα από τις αγωγές που ασκούνται από κυβερνήσεις εναντίον του Facebook και άλλων τεχνολογικών κολοσσών για την κατάχρηση και τον κακό χειρισμό των αλγορίθμων. Οι αγωγές από ομάδες πολιτικών δικαιωμάτων κερδίζουν επίσης έδαφος. Σιγά σιγά, σε κοινωνικό επίπεδο, συνειδητοποιούμε πώς μας παρακολουθούν και δεν μας αρέσει αυτό.
Υπάρχουν στοιχεία που δείχνουν πώς οι αλγόριθμοι μπορούν να επηρεάσουν σημαντικά τις ατομικές μας επιλογές. Μόλις πρόσφατα έχουμε αρχίσει να συλλέγουμε στοιχεία για τις μεγαλύτερες επιπτώσεις στην κοινωνία μας σε μακροπρόθεσμο επίπεδο.
Θα δημιουργήσουν οι αλγόριθμοι έναν δυστοπικό κόσμο;
Εκτός από τα πολύ σημαντικά ζητήματα της φυλετικής και έμφυλης προκατάληψης, προβληματικός είναι και ο τρόπος με τον οποίο οι αλγόριθμοι, μέσω της αδιάκοπης εργασίας τους για την ταξινόμηση κάθε πτυχής της κοινωνίας και του πολιτισμού, θα μπορούσαν τελικά να δημιουργήσουν έναν δυστοπικό κόσμο. Όπου καμία επιχείρηση, καμία κυβέρνηση δεν θα βλέπει τους ανθρώπους ως άτομα, αλλά ως ταξινομημένες ομάδες και προκειμένου οι άνθρωποι να λειτουργούν σε αυτόν τον κόσμο, θα πρέπει να λειτουργούμε μέσα στα όρια που υπαγορεύουν οι αλγόριθμοι.
Η επιστήμη της ψυχολογίας και της κοινωνιολογίας μάς δείχνουν ότι οι άνθρωποι είναι όντα της συνήθειας, ότι πολλά από αυτά που κάνουμε μπορούν να προσδιοριστούν σε μοτίβα. Αλλά όχι όλα όσα κάνουμε. Αν ίσχυε ότι όλοι οι άνθρωποι μπορούν να ταξινομηθούν, να στριμωχτούν σε κουτάκια και στήλες, να οριστούν οριζόντια και κάθετα σε άξονες x και y, τότε δεν θα μπορούσαμε να κάνουμε όλα τα υπέροχα δημιουργικά πράγματα που κάνουμε, από τη μουσική και την τέχνη μέχρι την ανακάλυψη νέων τεχνολογιών.
Μια δυστοπία είναι μάλλον κάπως απίθανο να πραγματοποιηθεί. Όχι τουλάχιστον σύντομα. Ο κοινωνικός, συλλογικός μας φόβος για τη δυστοπία, δεν επέτρεψε ποτέ στις κοινωνίες μας να φτάσουν σε αυτό το σημείο. Από την άλλη, όπως λέει ο Μαρξ, και κάτι που έχει αποδείξει και η ίδια η ανθρώπινη ιστορία, καμία κοινωνική κατάσταση δεν είναι μόνιμη, οπότε καλό είναι να είμαστε σε επαγρύπνηση.
Έχουμε ήδη παραχωρήσει στους αλγορίθμους κάποιο βαθμό εξουσίας. Κυρίως επειδή πολλοί αλγόριθμοι ήταν χρήσιμοι και ωφέλιμοι. Επίσης επειδή ένας αλγόριθμος είναι φευγαλέος, άυλος, σαν μαγεία για τους περισσότερους από εμάς. Δεν μπορούμε να τους κρατήσουμε στα χέρια μας, να τους λατρέψουμε, να τους περιφρονήσουμε ή να τους βάλουμε σε ένα ράφι. Υπάρχουν κλειδωμένοι στον ψηφιακό αιθέρα. Πληροφορούμαστε γι’ αυτούς μόνο όταν έχουν προκαλέσει κάποιο σφάλμα και μας λένε ότι «έφταιγε ο αλγόριθμος», σαν να δικαιολογεί αυτό το ατόπημα της εταιρείας που τον χρησιμοποιεί. Αυτή ωστόσο είναι μια απατηλή δικαιολογία.
Σήμερα, οι αλγόριθμοι έχουν σημαντική εξουσία σε πολλές πτυχές της ζωής μας. Το ερώτημα είναι, πόσο περισσότερη μπορούν να αποκτήσουν; Πόση περισσότερη θα τους παραχωρήσουμε εμείς; Ποιους κανόνες και ποιες κατευθυντήριες γραμμές, ηθικές και δεοντολογικές, θα εφαρμόσουμε πάνω στους αλγορίθμους;
Πρέπει να θυμόμαστε όμως ότι οι αλγόριθμοι έχουν αφετηρία τους ανθρώπους. Εμείς είμαστε οι δημιουργοί τους. Όταν λοιπόν αμφισβητούμε τους αλγόριθμους, θα πρέπει να αμφισβητούμε αυτούς που τους δημιουργούν. Οι αλγόριθμοι δεν ξέρουν τι κάνουν, αλλά οι άνθρωποι σίγουρα ξέρουν.
Δείτε επίσης: Όσο η Τεχνητή Νοημοσύνη εξελίσσεται, τόσο πληθαίνουν οι μηνύσεις εναντίον της
Αν έχετε συμβουλευτεί ποτέ μια συνταγή για να μαγειρέψετε κάτι νόστιμο ή να για να φτιάξετε ένα γεύμα, τότε έχετε χρησιμοποιήσει έναν αλγόριθμο, γιατί στην πιο βασική τους μορφή, αυτό είναι ο αλγόριθμος. Οι αλγόριθμοι είναι πανάρχαιοι, με ιστορία χιλιάδων ετών. Σήμερα, ωστόσο, είναι πιο πολύπλοκοι και έχουν πολύ μεγαλύτερο αντίκτυπο και επιρροή στις σύγχρονες κοινωνίες μας, σε όλο τον κόσμο και σχεδόν σε κάθε πολιτισμό.
Τους έχουμε δώσει εξουσία και δύναμη, τόσο πάνω σε εμάς τους ίδιους, όσο και στο κοινωνικό μας σύστημα. Τους έχουμε εκπαιδεύσει και κάποιοι υποστηρίζουν ότι αυτοί μας εκπαιδεύουν. Οι αλγόριθμοι χρησιμοποιούνται σε όλες τις μορφές Τεχνητής Νοημοσύνης (ΤΝ), από τα Νευρωνικά Δίκτυα και τη Μηχανική Μάθηση μέχρι τα Μεγάλα Γλωσσικά Μοντέλα (ΜΓΜ) όπως το ChatGPT και το Claude.
Οι αλγόριθμοι εμφανίζονται σχεδόν σε κάθε πτυχή της καθημερινής μας ζωής, από τη μουσική που ακούμε, τις εκπομπές που παρακολουθούμε, μέχρι τα τραπεζικά δάνεια, τις ασφάλειες, και τις θέσεις εργασίας που αναζητούμε. Χρησιμοποιούνται για να αξιολογούν την απόδοσή μας στην εργασία, για να καταδικάζουν εγκληματίες, για να αποδίδουν την πιστωτική μας βαθμολογία, να ανιχνεύουν τον καρκίνο, να δημιουργούν νέα φάρμακα. Οι αλγόριθμοι χρησιμοποιούνται για πολλά ωφέλιμα πράγματα. Κάποιες φορές, όμως, αποτυγχάνουν.
Δεν φταίει ο αλγόριθμος όταν κάνουν λάθος. Μερικές φορές, δεν έχουμε ιδέα γιατί κάνουν λάθος. Τι προκάλεσε το σφάλμα τους. Οι αλγόριθμοι δεν γνωρίζουν πότε έκαναν λάθος. Οι αλγόριθμοι, οι μηχανές, δεν εφαρμόζουν κρίση, γνώμη, ή λογική ή συναίσθημα. Γιατί δεν διαθέτουν καμία από αυτές τις πτυχές της ανθρώπινης ύπαρξης. Είναι μηχανές. Κάνουν αυτό για το οποίο έχουν εκπαιδευτεί.
Οι άνθρωποι καταλαβαίνουν. Οι μηχανές όχι. Οι άνθρωποι έχουν συνείδηση. Οι μηχανές όχι. Ωστόσο, οι αλγόριθμοι έχουν εξουσία.
Η κουλτούρα βρίσκεται στον κώδικα, ο κώδικας βρίσκεται στην κουλτούρα. Οι αλγόριθμοι δημιουργούνται από ανθρώπους. Σήμερα, ορισμένοι αλγόριθμοι μπορούν να δημιουργήσουν άλλους αλγόριθμους, αλλά όλοι ξεκίνησαν κάποια στιγμή από έναν άνθρωπο ή ανθρώπους. Το ποιος γράφει τον κώδικα επηρεάζει τα αποτελέσματα.
Γνωρίζουμε ότι γι’ αυτό το λόγο είχαμε σοβαρά προβλήματα, όπως οι προκαταλήψεις λόγω φύλου και φυλής. Η τάση των συστημάτων τεχνητής νοημοσύνης να καταδικάζουν περισσότερο τους μαύρους από ό,τι τους λευκούς ή τους Ασιάτες. Η χρήση της τεχνητής νοημοσύνης στο λογισμικό προσλήψεων έχει συχνά προτιμήσει τους λευκούς άνδρες έναντι των γυναικών ή των μη λευκών.
Οι αλγόριθμοι γνωρίζουν μόνο δύο φύλα: αρσενικό και θηλυκό. Δεν έχουν ιδέα για τα LGB2TQS+. Ωστόσο, η ταυτότητα φύλου είναι ρευστή και μεταβαλλόμενη στις ανθρώπινες κοινωνίες εδώ και χιλιάδες χρόνια, αλλά αυτό δεν έχει ακόμη κωδικοποιηθεί στους αλγορίθμους.
Η καθημερινή ζωή των ανθρώπων εμπλέκεται από πολιτισμικά, βιολογικά και υλικά στοιχεία όπως ο αέρας, οι ιδέες, το νερό, οι ιοί. Ο καθημερινός μόχθος ενός αλγορίθμου είναι συνυφασμένος με κέντρα δεδομένων, δίκτυα οπτικών ινών, κώδικα, λογισμικό και δεδομένα. Οι άνθρωποι καταλαβαίνουν. Οι μηχανές όχι. Οι άνθρωποι έχουν συνείδηση. Οι μηχανές όχι. Ωστόσο, οι αλγόριθμοι έχουν εξουσία.
Αρχίζουμε πλέον να αμφισβητούμε αυτή την εξουσία. Αυτό φαίνεται μέσα από τις αγωγές που ασκούνται από κυβερνήσεις εναντίον του Facebook και άλλων τεχνολογικών κολοσσών για την κατάχρηση και τον κακό χειρισμό των αλγορίθμων. Οι αγωγές από ομάδες πολιτικών δικαιωμάτων κερδίζουν επίσης έδαφος. Σιγά σιγά, σε κοινωνικό επίπεδο, συνειδητοποιούμε πώς μας παρακολουθούν και δεν μας αρέσει αυτό.
Υπάρχουν στοιχεία που δείχνουν πώς οι αλγόριθμοι μπορούν να επηρεάσουν σημαντικά τις ατομικές μας επιλογές. Μόλις πρόσφατα έχουμε αρχίσει να συλλέγουμε στοιχεία για τις μεγαλύτερες επιπτώσεις στην κοινωνία μας σε μακροπρόθεσμο επίπεδο.
Θα δημιουργήσουν οι αλγόριθμοι έναν δυστοπικό κόσμο;
Εκτός από τα πολύ σημαντικά ζητήματα της φυλετικής και έμφυλης προκατάληψης, προβληματικός είναι και ο τρόπος με τον οποίο οι αλγόριθμοι, μέσω της αδιάκοπης εργασίας τους για την ταξινόμηση κάθε πτυχής της κοινωνίας και του πολιτισμού, θα μπορούσαν τελικά να δημιουργήσουν έναν δυστοπικό κόσμο. Όπου καμία επιχείρηση, καμία κυβέρνηση δεν θα βλέπει τους ανθρώπους ως άτομα, αλλά ως ταξινομημένες ομάδες και προκειμένου οι άνθρωποι να λειτουργούν σε αυτόν τον κόσμο, θα πρέπει να λειτουργούμε μέσα στα όρια που υπαγορεύουν οι αλγόριθμοι.
Η επιστήμη της ψυχολογίας και της κοινωνιολογίας μάς δείχνουν ότι οι άνθρωποι είναι όντα της συνήθειας, ότι πολλά από αυτά που κάνουμε μπορούν να προσδιοριστούν σε μοτίβα. Αλλά όχι όλα όσα κάνουμε. Αν ίσχυε ότι όλοι οι άνθρωποι μπορούν να ταξινομηθούν, να στριμωχτούν σε κουτάκια και στήλες, να οριστούν οριζόντια και κάθετα σε άξονες x και y, τότε δεν θα μπορούσαμε να κάνουμε όλα τα υπέροχα δημιουργικά πράγματα που κάνουμε, από τη μουσική και την τέχνη μέχρι την ανακάλυψη νέων τεχνολογιών.
Μια δυστοπία είναι μάλλον κάπως απίθανο να πραγματοποιηθεί. Όχι τουλάχιστον σύντομα. Ο κοινωνικός, συλλογικός μας φόβος για τη δυστοπία, δεν επέτρεψε ποτέ στις κοινωνίες μας να φτάσουν σε αυτό το σημείο. Από την άλλη, όπως λέει ο Μαρξ, και κάτι που έχει αποδείξει και η ίδια η ανθρώπινη ιστορία, καμία κοινωνική κατάσταση δεν είναι μόνιμη, οπότε καλό είναι να είμαστε σε επαγρύπνηση.
Έχουμε ήδη παραχωρήσει στους αλγορίθμους κάποιο βαθμό εξουσίας. Κυρίως επειδή πολλοί αλγόριθμοι ήταν χρήσιμοι και ωφέλιμοι. Επίσης επειδή ένας αλγόριθμος είναι φευγαλέος, άυλος, σαν μαγεία για τους περισσότερους από εμάς. Δεν μπορούμε να τους κρατήσουμε στα χέρια μας, να τους λατρέψουμε, να τους περιφρονήσουμε ή να τους βάλουμε σε ένα ράφι. Υπάρχουν κλειδωμένοι στον ψηφιακό αιθέρα. Πληροφορούμαστε γι’ αυτούς μόνο όταν έχουν προκαλέσει κάποιο σφάλμα και μας λένε ότι «έφταιγε ο αλγόριθμος», σαν να δικαιολογεί αυτό το ατόπημα της εταιρείας που τον χρησιμοποιεί. Αυτή ωστόσο είναι μια απατηλή δικαιολογία.
Σήμερα, οι αλγόριθμοι έχουν σημαντική εξουσία σε πολλές πτυχές της ζωής μας. Το ερώτημα είναι, πόσο περισσότερη μπορούν να αποκτήσουν; Πόση περισσότερη θα τους παραχωρήσουμε εμείς; Ποιους κανόνες και ποιες κατευθυντήριες γραμμές, ηθικές και δεοντολογικές, θα εφαρμόσουμε πάνω στους αλγορίθμους;
Πρέπει να θυμόμαστε όμως ότι οι αλγόριθμοι έχουν αφετηρία τους ανθρώπους. Εμείς είμαστε οι δημιουργοί τους. Όταν λοιπόν αμφισβητούμε τους αλγόριθμους, θα πρέπει να αμφισβητούμε αυτούς που τους δημιουργούν. Οι αλγόριθμοι δεν ξέρουν τι κάνουν, αλλά οι άνθρωποι σίγουρα ξέρουν.
