Το Ευρωπαϊκό Συμβούλιο ενέκρινε την Τρίτη 21 Μαΐου τη λεγόμενη πράξη για την τεχνητή νοημοσύνη, ένα πρωτοποριακό νομοθέτημα με στόχο την εναρμόνιση των κανόνων για την τεχνητή νοημοσύνη. Η εμβληματική νομοθεσία ακολουθεί μια προσέγγιση «βάσει κινδύνου», η οποία σημαίνει ότι όσο υψηλότερος είναι ο κίνδυνος πρόκλησης βλάβης στην κοινωνία, τόσο αυστηρότεροι είναι οι κανόνες. Είναι η πρώτη αυτού του είδους στον κόσμο και μπορεί να αποτελέσει παγκόσμιο πρότυπο για τη ρύθμιση της τεχνητής νοημοσύνης.

Το νέο νομοθέτημα επιδιώκει να προωθήσει την ανάπτυξη και την υιοθέτηση ασφαλούς και αξιόπιστης ΤΝ σε ολόκληρη την ενιαία αγορά της ΕΕ τόσο από ιδιωτικούς όσο και από δημόσιους φορείς. Ταυτόχρονα, αποσκοπεί να διασφαλίσει τον σεβασμό των θεμελιωδών δικαιωμάτων των πολιτών της ΕΕ και να τονώσει τις επενδύσεις και την καινοτομία στην τεχνητή νοημοσύνη στην Ευρώπη. Η πράξη για την ΤΝ εφαρμόζεται μόνο σε τομείς που εμπίπτουν στο δίκαιο της ΕΕ, ωστόσο εξαιρούνται τα συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς και αμυντικούς σκοπούς, καθώς και για ερευνητικούς σκοπούς.

Ταξινόμηση των συστημάτων ΤΝ ως υψηλού κινδύνου και απαγορευμένες πρακτικές ΤΝ

Το νέο νομοθέτημα κατηγοριοποιεί τα διάφορα είδη τεχνητής νοημοσύνης ανάλογα με τον κίνδυνο. Τα συστήματα ΤΝ που παρουσιάζουν περιορισμένο μόνο κίνδυνο θα υπόκεινται σε πολύ ήπιες υποχρεώσεις διαφάνειας, ενώ τα συστήματα ΤΝ υψηλού κινδύνου θα αδειοδοτούνται, αλλά θα υπόκεινται σε ένα σύνολο απαιτήσεων και υποχρεώσεων για την απόκτηση πρόσβασης στην αγορά της ΕΕ. Συστήματα ΤΝ, όπως, για παράδειγμα, η γνωστική χειραγώγηση συμπεριφοράς και η κοινωνική βαθμολόγηση θα απαγορευτούν από την ΕΕ επειδή η επικινδυνότητά τους θεωρείται απαράδεκτη. Η πράξη απαγορεύει επίσης τη χρήση ΤΝ για προληπτική αστυνόμευση με βάση την κατάρτιση προφίλ και συστήματα που χρησιμοποιούν βιομετρικές πληροφορίες για τη συναγωγή συμπερασμάτων σχετικά με τη φυλετική καταγωγή, τη θρησκεία ή τον γενετήσιο προσανατολισμό των ατόμων.

Εξαιρέσεις από την επιβολή του νόμου

Προκειμένου να διατηρηθεί η δυνατότητά τους να χρησιμοποιούν ΤΝ στο ζωτικό έργο τους, το κείμενο περιλαμβάνει ορισμένες εξαιρέσεις καθώς για τις αρχές επιβολής του νόμου. Επιτρέπεται, σε ορισμένες περιπτώσεις, να χρησιμοποιούν εργαλείο ΤΝ υψηλού κινδύνου που δεν έχει περάσει επιτυχώς τη διαδικασία αξιολόγησης της συμμόρφωσης, καθώς και συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους, με την επιφύλαξη ορισμένων αυστηρών διασφαλίσεων.

Συστήματα ΤΝ γενικού σκοπού και θεμελιώδη μοντέλα

Η πράξη για την ΤΝ εξετάζει επίσης τη χρήση μοντέλων ΤΝ γενικού σκοπού (ΤΝΓΣ).

Τα μοντέλα ΤΝΓΣ που δεν ενέχουν συστημικούς κινδύνους θα υπόκεινται σε ορισμένες περιορισμένες απαιτήσεις, για παράδειγμα όσον αφορά τη διαφάνεια, ενώ τα μοντέλα με συστημικούς κινδύνους θα πρέπει να συμμορφώνονται με αυστηρότερους κανόνες.

Μια νέα αρχιτεκτονική διακυβέρνησης

Για να διασφαλιστεί η ορθή επιβολή, συγκροτούνται διάφορα διοικητικά όργανα:

Υπηρεσία ΤΝ εντός της Επιτροπής για την επιβολή των κοινών κανόνων σε ολόκληρη την ΕΕ

Επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων για την υποστήριξη των δραστηριοτήτων επιβολής

Συντονιστικό συμβούλιο ΤΝ με εκπροσώπους των κρατών μελών για την παροχή συμβουλών και συνδρομής στην Επιτροπή και τα κράτη μέλη σχετικά με τη συνεπή και αποτελεσματική εφαρμογή της πράξης για την ΤΝ

Συμβουλευτικό φόρουμ για τα ενδιαφερόμενα μέρη με σκοπό την παροχή τεχνικής εμπειρογνωμοσύνης στο συμβούλιο ΤΝ και στην Επιτροπή

Κυρώσεις

Τα πρόστιμα για παραβάσεις του Κανονισμού για την ΤΝ καθορίζονται ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της επιχείρησης που παρανομεί κατά το προηγούμενο οικονομικό έτος ή ως προκαθορισμένο ποσό, ανάλογα με το ποιο είναι υψηλότερο. Οι ΜΜΕ και οι νεοφυείς επιχειρήσεις υπόκεινται σε αναλογικά διοικητικά πρόστιμα.

Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων

Πριν από την εγκατάσταση ενός συστήματος ΤΝ υψηλού κινδύνου από ορισμένες οντότητες που παρέχουν δημόσιες υπηρεσίες, θα πρέπει να αξιολογηθεί ο αντίκτυπος στα θεμελιώδη δικαιώματα. Ο Κανονισμός προβλέπει επίσης αυξημένη διαφάνεια όσον αφορά την ανάπτυξη και χρήση συστημάτων ΤΝ υψηλού κινδύνου. Τα συστήματα ΤΝ υψηλού κινδύνου, καθώς και ορισμένοι χρήστες ενός συστήματος ΤΝ υψηλού κινδύνου που είναι δημόσιοι φορείς θα πρέπει να καταχωρίζονται στη βάση δεδομένων της ΕΕ για συστήματα ΤΝ υψηλού κινδύνου, και οι χρήστες συστήματος αναγνώρισης συναισθημάτων θα πρέπει να ενημερώνουν τα φυσικά πρόσωπα όταν εκτίθενται σε τέτοιο σύστημα.

Επόμενα βήματα

Αφού υπογραφεί από τους προέδρους του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, η νομοθετική πράξη θα δημοσιευθεί στην Επίσημη Εφημερίδα της ΕΕ τις προσεχείς ημέρες και θα τεθεί σε ισχύ είκοσι ημέρες μετά τη δημοσίευση. Ο νέος Κανονισμός θα εφαρμοστεί δύο χρόνια μετά την έναρξη ισχύος του, με ορισμένες εξαιρέσεις για συγκεκριμένες διατάξεις.