Με την επέλευση της καινούργιας δεκαετίας είμαστε ήδη –αναπόφευκτα ή μη, αυτοβούλως ή όχι- μέρος μιας σχεδόν καθολικής ηλεκτρονικής κοινωνίας. Έννοιες όπως Internet, Bitcoin, Artificial Intelligence, Facebook, Instagram, e-mail, LinkedIn και οτιδήποτε αρχίζει με το πρόθεμα e-, στροβιλίζουν στην καθημερινότητά μας ως αυτονόητες.
Η ηλεκτρονική καθημερινότητά μας όμως, συμπεριλαμβάνει και τη συμμετοχή μας στο Δικαιικό Σύστημα είτε λόγω του ότι εμείς κινούμε μια διαδικασία ενώπιον της Δικαιοσύνης είτε διότι εμείς υποχρεούμαστε να συμμετάσχουμε σε μια διαδικασία ενώπιον της.
Και ενώ σε άλλες εκφάνσεις της ζωής μας η τεχνολογία είναι αυτονόητο εργαλείο διευκόλυνσης, όταν πρόκειται για τη δικαιοσύνη, τα πράγματα γίνονται λίγο πιο πολύπλοκα: «Η Αυτοματοποίηση των Δικαιικών Συστημάτων» ή απλά η «ψηφιοποίηση στη Δικαιοσύνη» «digital justice», εμπεριέχει πολλά και άγνωστα στοιχεία, τα, τόσο για τους ίδιους τους συμμετέχοντες στο χώρο της δικαιοσύνης όσο και για τους απλούς πολίτες που ενδεχομένως να εμπλακούν έστω μια φορά στην ζωή τους σε κάποιο δικαστικό αγώνα. Και τούτο, διότι, αναμφίβολα η Τεχνητή Νοημοσύνη με τη σταδιακή αντικατάσταση του ανθρώπινου δυναμικού οδηγεί στην απομείωση της ανθρώπινης ύπαρξης.
Αναφορικά με τον τομέα της δικαιοσύνης, θα μπορούσαμε να σκεφτούμε, αν η τεχνολογία μέσω της ψηφιοποίησης όλης της διαδικασίας από την κατάθεση μιας διαδικαστικής πράξης έως τη συζήτηση αυτής, συνιστά το νέο πρωταγωνιστή της δικαιοσύνης; και αν ναι τελικά τι σημαίνει και τι συνεπάγεται αυτό; Όλο το δικαιικό μας σύστημα θα είναι αυτοματοποιημένο; Και αν ναι, αυτό το ηλεκτρικό σύστημα απονομής της δικαιοσύνης θα μπορεί να είναι επουσιωδώς δίκαιο και ουδέτερο;
Εδώ θα μας απασχολήσει το ζήτημα της φυλετικής δικαιοσύνης και ουδετερότητας της ψηφιοποιημένης δικαιοσύνης.
Η δικαιοσύνη υποτίθεται ότι είναι «τυφλή». Αλλά όταν πρόκειται για την φυλετική τύφλωση, είναι πάντα ο καλύτερος τρόπος για την επίτευξη φυλετικής ισότητας; Ένας αλγόριθμος για την πρόβλεψη της υποτροπής των φυλακισμένων, αναδεικνύει αυτό το ζήτημα.
Ο αλγόριθμος εκτίμησης της υποτροπής των κρατουμένων, αποτελεί το βασικό εργαλείο του νόμου «First Step Act», που ψηφίστηκε στο Κογκρέσο το 2018, και στόχο έχει την μείωση των ποινών αλλά και την βελτίωση των συνθηκών φυλάκισης. Μεταξύ άλλων αλλαγών, επιβραβεύει τους κρατούμενους που συμμετέχουν σε προγράμματα που έχουν σχεδιαστεί για να μειώσουν τις πιθανότητες της υποτροπής τους, με πρόωρη αποφυλάκιση. Οι υποψήφιοι που επιλέγονται για πρόωρη αποφυλάκιση, αξιολογούνται με το PATTERN, ένα εργαλείο αξιολόγησης που προβλέπει της πιθανότητες που διατρέχει ένας κρατούμενος να διαπράξει κάποιο έγκλημα κατά την αποφυλάκισή του.
Οι υποστηρικτές του νόμου «First Step Act» πανηγύρισαν την θέσπισή του ως ένα βήμα προς τη μεταρρύθμιση της ποινικής δικαιοσύνης που παρέχει μια σαφή πορεία προς τη μείωση του πληθυσμού των φυλακών για τους μη βίαιους παραβάτες χαμηλού κινδύνου, διατηρώντας παράλληλα τη δημόσια ασφάλεια.
Όμως, μια ανασκόπηση του συστήματος PATTERN που δημοσιεύθηκε από το Υπουργείο Δικαιοσύνης τον Δεκέμβριο του 2021 διαπίστωσε ότι το PATTERN υπερπροβλέπει την υποτροπή μεταξύ των κρατουμένων που ανήκουν σε μειονότητες κατά 2% έως 8% σε σύγκριση με τους λευκούς κρατουμένους. Οι επικριτές του συστήματος φοβούνται ότι το PATTERN ενισχύει τις φυλετικές προκαταλήψεις που μαστίζουν εδώ και καιρό το σωφρονιστικό σύστημα των ΗΠΑ.
Εδώ προκύπτει ένας σοβαρός δεοντολογικός προβληματισμός, για το πώς να αποφευχθεί ο κίνδυνος αναπαραγωγής φυλετικών προκαταλήψεων με τις νέες τεχνολογίες. Επιδιώκουμε να κατανοήσουμε κατά πόσον συστήματα όπως το PATTERN μπορούν να γίνουν φυλετικά δίκαια, συνεχίζοντας παράλληλα να εξυπηρετούν τη λειτουργία για την οποία σχεδιάστηκαν: τη μείωση του πληθυσμού των φυλακών με παράλληλη διατήρηση της δημόσιας ασφάλειας.
Το να γίνει το PATTERN εξίσου ακριβές για όλους τους κρατούμενους μπορεί να απαιτήσει ο αλγόριθμος να λάβει υπόψη του τη φυλή των κρατουμένων, κάτι που μπορεί να φαίνεται αντιφατικό. Με άλλα λόγια, η επίτευξη δίκαιων αποτελεσμάτων για όλες τις φυλετικές ομάδες μπορεί να απαιτεί να επικεντρωθούμε περισσότερο στη φυλή, και όχι το αντίθετο: ένα φαινομενικό παράδοξο που εμφανίζεται σε πολλές συζητήσεις γύρω από τη δικαιοσύνη και συγκεκριμένα τη φυλετική δικαιοσύνη.
Πώς λειτουργεί το PATTERN
Ο αλγόριθμος PATTERN βαθμολογεί τα άτομα σύμφωνα με μια σειρά μεταβλητών που έχει αποδειχθεί ότι προβλέπουν την υποτροπή. Οι παράγοντες αυτοί περιλαμβάνουν το ποινικό ιστορικό, το επίπεδο εκπαίδευσης, τα πειθαρχικά περιστατικά κατά τη διάρκεια της φυλάκισης και το αν έχουν ολοκληρώσει προγράμματα που αποσκοπούν στη μείωση της υποτροπής. Ο αλγόριθμος προβλέπει τόσο τη γενική όσο και τη βίαιη υποτροπή και δεν λαμβάνει υπόψη τη φυλή ενός κρατουμένου κατά την παραγωγή βαθμολογίας του κινδύνου.
Με βάση αυτή τη βαθμολογία, τα άτομα θεωρούνται υψηλού, μεσαίου ή χαμηλού κινδύνου. Μόνο όσοι εμπίπτουν στην τελευταία κατηγορία είναι επιλέξιμοι για πρόωρη αποφυλάκιση.
Η τελευταία επισκόπηση του Υπουργείου Δικαιοσύνης, η οποία συγκρίνει τις προβλέψεις του PATTERN με τα πραγματικά αποτελέσματα των πρώην κρατουμένων, δείχνει ότι σφάλματα του αλγορίθμου έτειναν να θέτουν σε μειονεκτική θέση τους μη λευκούς κρατουμένους.
Το PATTERN υπερεκτίμησε τη γενική υποτροπή μεταξύ των μαύρων ανδρών κρατουμένων κατά 2% έως 3% όταν τους συνέκρινε με τους λευκούς κρατούμενους. Σύμφωνα με την έκθεση του Υπουργείου Δικαιοσύνης, ο αριθμός αυτός αυξήθηκε σε 6% έως 7% για τις μαύρες γυναίκες, σε σχέση με τις λευκές γυναίκες. Το PATTERN υπερεκτίμησε την υποτροπή των ισπανόφωνων κρατουμένων κατά 2% έως 6% σε σύγκριση με τους λευκούς κρατούμενους και υπερεκτίμησε την υποτροπή των Ασιατών ανδρών κατά 7% έως 8% σε σύγκριση με τους λευκούς κρατούμενους.
Αυτά τα ανομοιογενή αποτελέσματα συγκλίνουν προς την διαπίστωση ότι ο τρόπος αξιολόγησης είναι άδικός και ότι παράλληλα ενισχύει τις ήδη υπάρχουσες φυλετικές ανισότητες στο σύστημα ποινικής δικαιοσύνης. Για παράδειγμα, οι μαύροι Αμερικανοί φυλακίζονται ήδη σχεδόν πέντε φορές περισσότερο από τους λευκούς Αμερικανούς.
Μείωση των προκαταλήψεων με τη συμπερίληψη της φυλής
Είναι δελεαστικό να καταλήξει κανείς στο συμπέρασμα ότι το Υπουργείο Δικαιοσύνης πρέπει να εγκαταλείψει εντελώς το σύστημα αυτό. Ωστόσο, οι επιστήμονες πληροφορικής και δεδομένων την τελευταία δεκαετία έχουν αναπτύξει μια σειρά εργαλείων με σκοπό να αντιμετωπίσουν τις ανησυχίες σχετικά με την αλγοριθμική απόκλιση και αδικία. Αξίζει λοιπόν να αναρωτηθούμε αν οι ανισότητες του PATTERN μπορούν να διορθωθούν.
Όπως έχουν παρατηρήσει επιστήμονες πληροφορικής και νομικοί, η προγνωστική αξία μιας πληροφορίας για ένα άτομο μπορεί να ποικίλλει ανάλογα με τα άλλα χαρακτηριστικά του. Για παράδειγμα, ας υποθέσουμε ότι η ύπαρξη σταθερής στέγης τείνει να μειώνει τον κίνδυνο ένας πρώην κρατούμενος να διαπράξει νέο έγκλημα, αλλά ότι η σχέση μεταξύ στέγης και μη επανάληψης της εγκληματικότητας είναι ισχυρότερη για τους λευκούς κρατούμενους από ό,τι για τους μαύρους κρατούμενους. Ένας αλγόριθμος θα μπορούσε να το λάβει αυτό υπόψη για μεγαλύτερη ακρίβεια.
Αλλά η συνεκτίμηση αυτής της διαφοράς θα απαιτούσε από τους σχεδιαστές του προγράμματος να συμπεριλάβουν στον αλγόριθμο τη φυλή κάθε κρατουμένου, γεγονός που εγείρει νομικές ανησυχίες. Η διαφορετική μεταχείριση των ατόμων βάσει της φυλής κατά τη λήψη νομικών αποφάσεων ενέχει τον κίνδυνο να παραβιάσει την 14η τροποποίηση του Συντάγματος, η οποία εγγυάται την ίση προστασία από το νόμο.
Αρκετοί νομικοί, συμπεριλαμβανομένης της Deborah Hellman, υποστήριξαν πρόσφατα ότι αυτή η νομική ανησυχία είναι υπερβολική. Για παράδειγμα, ο νόμος επιτρέπει τη χρήση φυλετικών ταξινομήσεων για την περιγραφή υπόπτων για εγκληματικές πράξεις και για τη συλλογή δημογραφικών δεδομένων στην απογραφή.
Άλλες χρήσεις των φυλετικών ταξινομήσεων είναι πιο προβληματικές. Για παράδειγμα, η φυλετική καταγραφή συνεχίζει να αμφισβητείται στα δικαστήρια. Αλλά η Hellman υποστηρίζει ότι ο σχεδιασμός αλγορίθμων που είναι ευαίσθητοι στον τρόπο με τον οποίο η προγνωστική αξία των πληροφοριών ποικίλλει σε σχέση με τις φυλετικές ομάδες, είναι πιο παραπλήσια με τη χρήση της φυλής στις περιγραφές υπόπτων και στην απογραφή.
Εν μέρει, αυτό οφείλεται στο γεγονός ότι οι αλγόριθμοι που με ευαισθησία στη φυλή, σε αντίθεση με τη φυλετική σκιαγράφηση, δεν βασίζονται σε στατιστικές γενικεύσεις σχετικά με την επικράτηση ενός χαρακτηριστικού, όπως το ποσοστό υποτροπής εντός μιας φυλετικής ομάδας. Αντίθετα, προτείνει να γίνονται στατιστικές γενικεύσεις σχετικά με την αξιοπιστία των πληροφοριών του αλγορίθμου για τα μέλη μιας φυλετικής ομάδας και να προσαρμόζονται κατάλληλα.
Υπάρχουν όμως και διάφορες δεοντολογικές ανησυχίες που πρέπει να ληφθούν υπόψη. Η ενσωμάτωση της φυλής ενδέχεται να συνεπάγεται άνιση μεταχείριση. Μπορεί να μην αντιμετωπίζει τους κρατούμενους ως άτομα, καθώς βασίζεται σε στατιστικά στοιχεία σχετικά με τη φυλετική ομάδα στην οποία κατατάσσονται. Και μπορεί να θέσει ορισμένους κρατούμενους σε χειρότερη θέση από άλλους στο να συγκεντρώσουν μόρια για την πρόωρη αποφυλάκισή τους , απλώς και μόνο λόγω της φυλής τους.
Η Βασική διαφορά
Παρά τις ανησυχίες αυτές, υποστηρίζουμε ότι υπάρχουν σοβαροί δεοντολογικοί λόγοι για την ενσωμάτωση της φυλής στον αλγόριθμο.
Πρώτον, με την ενσωμάτωση της φυλής, ο αλγόριθμος θα μπορούσε να είναι πιο ακριβής σε όλες τις φυλετικές ομάδες. Αυτό θα μπορούσε να επιτρέψει στο σύστημα των φυλακών να παρέχει πρόωρη αποφυλάκιση σε περισσότερους κρατούμενους που ενέχουν χαμηλό κίνδυνο υποτροπής, ενώ θα κρατούσε τους κρατούμενους υψηλού κινδύνου στη φυλακή. Κάτι τέτοιο θα μπορούσε να ενισχύσει τη δικαιοσύνη χωρίς να θυσιάσει τη δημόσια ασφάλεια – αυτό που επιθυμούν οι υποστηρικτές της μεταρρύθμισης της ποινικής δικαιοσύνης.
Επιπλέον, η μετατροπή του αλγορίθμου ώστε να συμπεριλάβει τη φυλή μπορεί να βελτιώσει τα αποτελέσματα για τους μαύρους κρατούμενους χωρίς να χειροτερέψει τα πράγματα για τους λευκούς κρατούμενους. Αυτό οφείλεται στο γεγονός ότι η απόκτηση μορίων για πρόωρη αποφυλάκιση δεν είναι ένα παιχνίδι μηδενικού αθροίσματος- η επιλεξιμότητα ενός ατόμου για το πρόγραμμα πρόωρης αποφυλάκισης δεν επηρεάζει την επιλεξιμότητα κανενός άλλου. Αυτό είναι το σύστημα διαφέρει πολύ από αυτό που εφαρμόζεται για προσλήψεις ή στην εκπαίδευση. Σε αυτές τις περιπτώσεις, οι θέσεις όντας περιορισμένες, όταν οι συνθήκες βελτιώνονται για την μια ομάδα, αναγκαστικά χειροτερεύουν για την άλλη, αντιστρόφως ανάλογα.
Όπως δείχνει το PATTERN, η φυλετική ισότητα δεν πετυχένεται απαραίτητα με το να αφαιρούμε τη φυλή από την εξίσωση – τουλάχιστον όχι όταν όλοι οι συμμετέχοντες έχουν όφελος.
Με την επέλευση της καινούργιας δεκαετίας είμαστε ήδη –αναπόφευκτα ή μη, αυτοβούλως ή όχι- μέρος μιας σχεδόν καθολικής ηλεκτρονικής κοινωνίας. Έννοιες όπως Internet, Bitcoin, Artificial Intelligence, Facebook, Instagram, e-mail, LinkedIn και οτιδήποτε αρχίζει με το πρόθεμα e-, στροβιλίζουν στην καθημερινότητά μας ως αυτονόητες.
Η ηλεκτρονική καθημερινότητά μας όμως, συμπεριλαμβάνει και τη συμμετοχή μας στο Δικαιικό Σύστημα είτε λόγω του ότι εμείς κινούμε μια διαδικασία ενώπιον της Δικαιοσύνης είτε διότι εμείς υποχρεούμαστε να συμμετάσχουμε σε μια διαδικασία ενώπιον της.
Και ενώ σε άλλες εκφάνσεις της ζωής μας η τεχνολογία είναι αυτονόητο εργαλείο διευκόλυνσης, όταν πρόκειται για τη δικαιοσύνη, τα πράγματα γίνονται λίγο πιο πολύπλοκα: «Η Αυτοματοποίηση των Δικαιικών Συστημάτων» ή απλά η «ψηφιοποίηση στη Δικαιοσύνη» «digital justice», εμπεριέχει πολλά και άγνωστα στοιχεία, τα, τόσο για τους ίδιους τους συμμετέχοντες στο χώρο της δικαιοσύνης όσο και για τους απλούς πολίτες που ενδεχομένως να εμπλακούν έστω μια φορά στην ζωή τους σε κάποιο δικαστικό αγώνα. Και τούτο, διότι, αναμφίβολα η Τεχνητή Νοημοσύνη με τη σταδιακή αντικατάσταση του ανθρώπινου δυναμικού οδηγεί στην απομείωση της ανθρώπινης ύπαρξης.
Αναφορικά με τον τομέα της δικαιοσύνης, θα μπορούσαμε να σκεφτούμε, αν η τεχνολογία μέσω της ψηφιοποίησης όλης της διαδικασίας από την κατάθεση μιας διαδικαστικής πράξης έως τη συζήτηση αυτής, συνιστά το νέο πρωταγωνιστή της δικαιοσύνης; και αν ναι τελικά τι σημαίνει και τι συνεπάγεται αυτό; Όλο το δικαιικό μας σύστημα θα είναι αυτοματοποιημένο; Και αν ναι, αυτό το ηλεκτρικό σύστημα απονομής της δικαιοσύνης θα μπορεί να είναι επουσιωδώς δίκαιο και ουδέτερο;
Εδώ θα μας απασχολήσει το ζήτημα της φυλετικής δικαιοσύνης και ουδετερότητας της ψηφιοποιημένης δικαιοσύνης.
Η δικαιοσύνη υποτίθεται ότι είναι «τυφλή». Αλλά όταν πρόκειται για την φυλετική τύφλωση, είναι πάντα ο καλύτερος τρόπος για την επίτευξη φυλετικής ισότητας; Ένας αλγόριθμος για την πρόβλεψη της υποτροπής των φυλακισμένων, αναδεικνύει αυτό το ζήτημα.
Ο αλγόριθμος εκτίμησης της υποτροπής των κρατουμένων, αποτελεί το βασικό εργαλείο του νόμου «First Step Act», που ψηφίστηκε στο Κογκρέσο το 2018, και στόχο έχει την μείωση των ποινών αλλά και την βελτίωση των συνθηκών φυλάκισης. Μεταξύ άλλων αλλαγών, επιβραβεύει τους κρατούμενους που συμμετέχουν σε προγράμματα που έχουν σχεδιαστεί για να μειώσουν τις πιθανότητες της υποτροπής τους, με πρόωρη αποφυλάκιση. Οι υποψήφιοι που επιλέγονται για πρόωρη αποφυλάκιση, αξιολογούνται με το PATTERN, ένα εργαλείο αξιολόγησης που προβλέπει της πιθανότητες που διατρέχει ένας κρατούμενος να διαπράξει κάποιο έγκλημα κατά την αποφυλάκισή του.
Οι υποστηρικτές του νόμου «First Step Act» πανηγύρισαν την θέσπισή του ως ένα βήμα προς τη μεταρρύθμιση της ποινικής δικαιοσύνης που παρέχει μια σαφή πορεία προς τη μείωση του πληθυσμού των φυλακών για τους μη βίαιους παραβάτες χαμηλού κινδύνου, διατηρώντας παράλληλα τη δημόσια ασφάλεια.
Όμως, μια ανασκόπηση του συστήματος PATTERN που δημοσιεύθηκε από το Υπουργείο Δικαιοσύνης τον Δεκέμβριο του 2021 διαπίστωσε ότι το PATTERN υπερπροβλέπει την υποτροπή μεταξύ των κρατουμένων που ανήκουν σε μειονότητες κατά 2% έως 8% σε σύγκριση με τους λευκούς κρατουμένους. Οι επικριτές του συστήματος φοβούνται ότι το PATTERN ενισχύει τις φυλετικές προκαταλήψεις που μαστίζουν εδώ και καιρό το σωφρονιστικό σύστημα των ΗΠΑ.
Εδώ προκύπτει ένας σοβαρός δεοντολογικός προβληματισμός, για το πώς να αποφευχθεί ο κίνδυνος αναπαραγωγής φυλετικών προκαταλήψεων με τις νέες τεχνολογίες. Επιδιώκουμε να κατανοήσουμε κατά πόσον συστήματα όπως το PATTERN μπορούν να γίνουν φυλετικά δίκαια, συνεχίζοντας παράλληλα να εξυπηρετούν τη λειτουργία για την οποία σχεδιάστηκαν: τη μείωση του πληθυσμού των φυλακών με παράλληλη διατήρηση της δημόσιας ασφάλειας.
Το να γίνει το PATTERN εξίσου ακριβές για όλους τους κρατούμενους μπορεί να απαιτήσει ο αλγόριθμος να λάβει υπόψη του τη φυλή των κρατουμένων, κάτι που μπορεί να φαίνεται αντιφατικό. Με άλλα λόγια, η επίτευξη δίκαιων αποτελεσμάτων για όλες τις φυλετικές ομάδες μπορεί να απαιτεί να επικεντρωθούμε περισσότερο στη φυλή, και όχι το αντίθετο: ένα φαινομενικό παράδοξο που εμφανίζεται σε πολλές συζητήσεις γύρω από τη δικαιοσύνη και συγκεκριμένα τη φυλετική δικαιοσύνη.
Πώς λειτουργεί το PATTERN
Ο αλγόριθμος PATTERN βαθμολογεί τα άτομα σύμφωνα με μια σειρά μεταβλητών που έχει αποδειχθεί ότι προβλέπουν την υποτροπή. Οι παράγοντες αυτοί περιλαμβάνουν το ποινικό ιστορικό, το επίπεδο εκπαίδευσης, τα πειθαρχικά περιστατικά κατά τη διάρκεια της φυλάκισης και το αν έχουν ολοκληρώσει προγράμματα που αποσκοπούν στη μείωση της υποτροπής. Ο αλγόριθμος προβλέπει τόσο τη γενική όσο και τη βίαιη υποτροπή και δεν λαμβάνει υπόψη τη φυλή ενός κρατουμένου κατά την παραγωγή βαθμολογίας του κινδύνου.
Με βάση αυτή τη βαθμολογία, τα άτομα θεωρούνται υψηλού, μεσαίου ή χαμηλού κινδύνου. Μόνο όσοι εμπίπτουν στην τελευταία κατηγορία είναι επιλέξιμοι για πρόωρη αποφυλάκιση.
Η τελευταία επισκόπηση του Υπουργείου Δικαιοσύνης, η οποία συγκρίνει τις προβλέψεις του PATTERN με τα πραγματικά αποτελέσματα των πρώην κρατουμένων, δείχνει ότι σφάλματα του αλγορίθμου έτειναν να θέτουν σε μειονεκτική θέση τους μη λευκούς κρατουμένους.
Το PATTERN υπερεκτίμησε τη γενική υποτροπή μεταξύ των μαύρων ανδρών κρατουμένων κατά 2% έως 3% όταν τους συνέκρινε με τους λευκούς κρατούμενους. Σύμφωνα με την έκθεση του Υπουργείου Δικαιοσύνης, ο αριθμός αυτός αυξήθηκε σε 6% έως 7% για τις μαύρες γυναίκες, σε σχέση με τις λευκές γυναίκες. Το PATTERN υπερεκτίμησε την υποτροπή των ισπανόφωνων κρατουμένων κατά 2% έως 6% σε σύγκριση με τους λευκούς κρατούμενους και υπερεκτίμησε την υποτροπή των Ασιατών ανδρών κατά 7% έως 8% σε σύγκριση με τους λευκούς κρατούμενους.
Αυτά τα ανομοιογενή αποτελέσματα συγκλίνουν προς την διαπίστωση ότι ο τρόπος αξιολόγησης είναι άδικός και ότι παράλληλα ενισχύει τις ήδη υπάρχουσες φυλετικές ανισότητες στο σύστημα ποινικής δικαιοσύνης. Για παράδειγμα, οι μαύροι Αμερικανοί φυλακίζονται ήδη σχεδόν πέντε φορές περισσότερο από τους λευκούς Αμερικανούς.
Μείωση των προκαταλήψεων με τη συμπερίληψη της φυλής
Είναι δελεαστικό να καταλήξει κανείς στο συμπέρασμα ότι το Υπουργείο Δικαιοσύνης πρέπει να εγκαταλείψει εντελώς το σύστημα αυτό. Ωστόσο, οι επιστήμονες πληροφορικής και δεδομένων την τελευταία δεκαετία έχουν αναπτύξει μια σειρά εργαλείων με σκοπό να αντιμετωπίσουν τις ανησυχίες σχετικά με την αλγοριθμική απόκλιση και αδικία. Αξίζει λοιπόν να αναρωτηθούμε αν οι ανισότητες του PATTERN μπορούν να διορθωθούν.
Όπως έχουν παρατηρήσει επιστήμονες πληροφορικής και νομικοί, η προγνωστική αξία μιας πληροφορίας για ένα άτομο μπορεί να ποικίλλει ανάλογα με τα άλλα χαρακτηριστικά του. Για παράδειγμα, ας υποθέσουμε ότι η ύπαρξη σταθερής στέγης τείνει να μειώνει τον κίνδυνο ένας πρώην κρατούμενος να διαπράξει νέο έγκλημα, αλλά ότι η σχέση μεταξύ στέγης και μη επανάληψης της εγκληματικότητας είναι ισχυρότερη για τους λευκούς κρατούμενους από ό,τι για τους μαύρους κρατούμενους. Ένας αλγόριθμος θα μπορούσε να το λάβει αυτό υπόψη για μεγαλύτερη ακρίβεια.
Αλλά η συνεκτίμηση αυτής της διαφοράς θα απαιτούσε από τους σχεδιαστές του προγράμματος να συμπεριλάβουν στον αλγόριθμο τη φυλή κάθε κρατουμένου, γεγονός που εγείρει νομικές ανησυχίες. Η διαφορετική μεταχείριση των ατόμων βάσει της φυλής κατά τη λήψη νομικών αποφάσεων ενέχει τον κίνδυνο να παραβιάσει την 14η τροποποίηση του Συντάγματος, η οποία εγγυάται την ίση προστασία από το νόμο.
Αρκετοί νομικοί, συμπεριλαμβανομένης της Deborah Hellman, υποστήριξαν πρόσφατα ότι αυτή η νομική ανησυχία είναι υπερβολική. Για παράδειγμα, ο νόμος επιτρέπει τη χρήση φυλετικών ταξινομήσεων για την περιγραφή υπόπτων για εγκληματικές πράξεις και για τη συλλογή δημογραφικών δεδομένων στην απογραφή.
Άλλες χρήσεις των φυλετικών ταξινομήσεων είναι πιο προβληματικές. Για παράδειγμα, η φυλετική καταγραφή συνεχίζει να αμφισβητείται στα δικαστήρια. Αλλά η Hellman υποστηρίζει ότι ο σχεδιασμός αλγορίθμων που είναι ευαίσθητοι στον τρόπο με τον οποίο η προγνωστική αξία των πληροφοριών ποικίλλει σε σχέση με τις φυλετικές ομάδες, είναι πιο παραπλήσια με τη χρήση της φυλής στις περιγραφές υπόπτων και στην απογραφή.
Εν μέρει, αυτό οφείλεται στο γεγονός ότι οι αλγόριθμοι που με ευαισθησία στη φυλή, σε αντίθεση με τη φυλετική σκιαγράφηση, δεν βασίζονται σε στατιστικές γενικεύσεις σχετικά με την επικράτηση ενός χαρακτηριστικού, όπως το ποσοστό υποτροπής εντός μιας φυλετικής ομάδας. Αντίθετα, προτείνει να γίνονται στατιστικές γενικεύσεις σχετικά με την αξιοπιστία των πληροφοριών του αλγορίθμου για τα μέλη μιας φυλετικής ομάδας και να προσαρμόζονται κατάλληλα.
Υπάρχουν όμως και διάφορες δεοντολογικές ανησυχίες που πρέπει να ληφθούν υπόψη. Η ενσωμάτωση της φυλής ενδέχεται να συνεπάγεται άνιση μεταχείριση. Μπορεί να μην αντιμετωπίζει τους κρατούμενους ως άτομα, καθώς βασίζεται σε στατιστικά στοιχεία σχετικά με τη φυλετική ομάδα στην οποία κατατάσσονται. Και μπορεί να θέσει ορισμένους κρατούμενους σε χειρότερη θέση από άλλους στο να συγκεντρώσουν μόρια για την πρόωρη αποφυλάκισή τους , απλώς και μόνο λόγω της φυλής τους.
Η Βασική διαφορά
Παρά τις ανησυχίες αυτές, υποστηρίζουμε ότι υπάρχουν σοβαροί δεοντολογικοί λόγοι για την ενσωμάτωση της φυλής στον αλγόριθμο.
Πρώτον, με την ενσωμάτωση της φυλής, ο αλγόριθμος θα μπορούσε να είναι πιο ακριβής σε όλες τις φυλετικές ομάδες. Αυτό θα μπορούσε να επιτρέψει στο σύστημα των φυλακών να παρέχει πρόωρη αποφυλάκιση σε περισσότερους κρατούμενους που ενέχουν χαμηλό κίνδυνο υποτροπής, ενώ θα κρατούσε τους κρατούμενους υψηλού κινδύνου στη φυλακή. Κάτι τέτοιο θα μπορούσε να ενισχύσει τη δικαιοσύνη χωρίς να θυσιάσει τη δημόσια ασφάλεια – αυτό που επιθυμούν οι υποστηρικτές της μεταρρύθμισης της ποινικής δικαιοσύνης.
Επιπλέον, η μετατροπή του αλγορίθμου ώστε να συμπεριλάβει τη φυλή μπορεί να βελτιώσει τα αποτελέσματα για τους μαύρους κρατούμενους χωρίς να χειροτερέψει τα πράγματα για τους λευκούς κρατούμενους. Αυτό οφείλεται στο γεγονός ότι η απόκτηση μορίων για πρόωρη αποφυλάκιση δεν είναι ένα παιχνίδι μηδενικού αθροίσματος- η επιλεξιμότητα ενός ατόμου για το πρόγραμμα πρόωρης αποφυλάκισης δεν επηρεάζει την επιλεξιμότητα κανενός άλλου. Αυτό είναι το σύστημα διαφέρει πολύ από αυτό που εφαρμόζεται για προσλήψεις ή στην εκπαίδευση. Σε αυτές τις περιπτώσεις, οι θέσεις όντας περιορισμένες, όταν οι συνθήκες βελτιώνονται για την μια ομάδα, αναγκαστικά χειροτερεύουν για την άλλη, αντιστρόφως ανάλογα.
Όπως δείχνει το PATTERN, η φυλετική ισότητα δεν πετυχένεται απαραίτητα με το να αφαιρούμε τη φυλή από την εξίσωση – τουλάχιστον όχι όταν όλοι οι συμμετέχοντες έχουν όφελος.
