Ο Τζάο, ερευνητής στην ασφάλεια υπολογιστών στο Πανεπιστήμιο του Σικάγο είχε γίνει γνωστός κατασκευάζοντας εργαλεία για την προστασία εικόνων από τεχνολογία αναγνώρισης προσώπου. Αυτή η δουλειά του κέντρισε το ενδιαφέρον μίας εικονογράφου φαντασίας, η οποία τον προσκάλεσε στη συνάντηση που διοργάνωσε η Ένωση Concept Art, μια οργάνωση υπεράσπισης των πνευματικών δικαιωμάτων των καλλιτεχνών.
Οι καλλιτέχνες μοιράστηκαν λεπτομέρειες για το πώς είχαν πληγεί από την έκρηξη της τεχνητής νοημοσύνης, η οποία τότε ήταν ακόμα στα πρώτα της βήματα. Η τεχνολογική κοινότητα ήταν ενθουσιασμένη με μοντέλα AI που παράγουν εικόνες, όπως το Midjourney, το Stable Diffusion και το DALL-E 2 της OpenAI τα οποία μπορούσαν να απεικονίσουν φανταστικά τοπία. Από τη μεριά τους οι δημιουργοί έβλεπαν αυτό το τεχνολογικό θαύμα ως μια νέα μορφή κλοπής. Ένιωθαν ότι τα μοντέλα αυτά ουσιαστικά έκλεβαν και αντικαθιστούσαν τη δουλειά τους. Κάποιοι είχαν ανακαλύψει ότι η τέχνη τους είχε «αντληθεί» από το διαδίκτυο και είχε χρησιμοποιηθεί για να εκπαιδεύσει τα μοντέλα. Ο Τζάο θυμάται πόσο σοκαρίστηκε από όσα άκουσε. «Οι άνθρωποι σου λένε κυριολεκτικά ότι χάνουν το βιοπορισμό τους. Αυτό είναι κάτι που απλά δεν μπορείς να αγνοήσεις».
Σήμερα εκατομμύρια καλλιτέχνες έχουν υιοθετήσει δύο εργαλεία που γεννήθηκαν από εκείνη τη συνάντηση: το Glaze και το Nightshade, τα οποία αναπτύχθηκαν από τον Τζάο και το SAND Lab του Πανεπιστημίου του Σικάγο (ειδικό για την «ασφάλεια, τους αλγόριθμους, τα δίκτυα και τα δεδομένα).
Πώς λειτουργούν τα δύο εργαλεία;
Ίσως τα πιο ισχυρά «όπλα» στο οπλοστάσιο των καλλιτεχνών ενάντια στην ανάλυση από AI χωρίς συναίνεση, το Glaze και το Nightshade λειτουργούν με παρόμοιους τρόπους: προσθέτοντας αυτό που οι ερευνητές αποκαλούν «ελάχιστα αντιληπτές» μεταβολές στα pixel μιας εικόνας, ώστε τα μοντέλα μηχανικής μάθησης να μην μπορούν να τις διαβάσουν σωστά. Το Glaze, το οποίο έχει κατέβει πάνω από 6 εκατομμύρια φορές από την κυκλοφορία του τον Μάρτιο του 2023 προσθέτει ουσιαστικά έναν μυστικό «μανδύα» στις εικόνες που εμποδίζει τους αλγόριθμους AI από το να αντιλαμβάνονται και να αντιγράφουν το ύφος ενός καλλιτέχνη. Το Nightshade προσθέτει μία αόρατη «τοξική» στρώση στις εικόνες, που μπορεί να καταστρέψει τα μοντέλα AI. Έχει κατέβει πάνω από 1,6 εκατομμύρια φορές.
Ο Τζάο ελπίζει ότι τα εργαλεία θα κάνουν περισσότερα από το να ενδυναμώσουν μεμονωμένους καλλιτέχνες. Το Glaze και το Nightshade είναι μέρος αυτού που βλέπει ως μάχη για να γείρει την ισορροπία δύναμης από τις μεγάλες εταιρείες προς τους ανεξάρτητους δημιουργούς. «Είναι απίστευτα απογοητευτικό να βλέπεις την ανθρώπινη ζωή να εκτιμάται τόσο λίγο».
Το SAND Lab είναι μια δεμένη ομάδα, αποτελούμενη από περίπου δώδεκα ερευνητές σε μια γωνιά του κτιρίου πληροφορικής στο Πανεπιστήμιο του Σικάγο. Η ομάδα έχει αναπτύξει ένα «βραχιόλι σιωπής» που μπλοκάρει τα μικρόφωνα σε συσκευές AI, όπως το Amazon Echo. Έχει επίσης δημιουργήσει ένα εργαλείο που ονομάζεται Fawkes (για τη «θωράκιση της ιδιωτικότητας»), το οποίο οι άνθρωποι μπορούν να εφαρμόσουν στις φωτογραφίες τους για προστασία από το λογισμικό αναγνώρισης προσώπου. Το Fawkes ήταν αυτό που κίνησε το ενδιαφέρον της εικονογράφου φαντασίας πριν δύο χρόνια. Ήλπιζε ότι κάτι παρόμοιο θα μπορούσε να λειτουργήσει ως προστασία ενάντια στην AI και για αυτό πρότεινε την πρόσκληση στη συνάντηση της Concept Art Association. Κάπως έτσι ξεκίνησε ένας αγώνας δρόμου.
Σχεδόν όλοι οι καλλιτέχνες δήλωσαν ότι δημοσιεύουν τη δουλειά τους στο διαδίκτυο και πάνω από τους μισούς είπαν ότι σχεδίαζαν να μειώσουν ή να αφαιρέσουν το έργο τους από το διαδίκτυο όποιες κι αν ήταν οι επαγγελματικές και οικονομικές συνέπειες.
Ενώ το Glaze είναι ένας αμυντικός μηχανισμός, το Nightshade σχεδιάστηκε για να λειτουργεί ως αποτρεπτικός παράγοντας ενάντια στην εκπαίδευση χωρίς συναίνεση. Λειτουργεί αλλάζοντας τα pixels των εικόνων με τρόπους που δεν είναι ορατοί στο ανθρώπινο μάτι, αλλά παραπλανούν τα μοντέλα μηχανικής μάθησης ώστε να ερμηνεύουν την εικόνα διαφορετικά από ό,τι δείχνει στην πραγματικότητα. Αυτή τη στιγμή και τα δύο εργαλεία είναι διαθέσιμα ως δωρεάν εφαρμογές.
Tα δύο εργαλεία έχουν περάσει από αυστηρό ακαδημαϊκό έλεγχο και έχουν κερδίσει αναγνώριση στην κοινότητα ασφάλειας υπολογιστών. Το Nightshade έγινε δεκτό στο IEEE Symposium on Security and Privacy, ενώ το Glaze έλαβε το βραβείο διακεκριμένου άρθρου και το Βραβείο Internet Defense του 2023 στο Usenix Security Symposium, ένα κορυφαίο συνέδριο στον τομέα.
Ο Τζάο παραδέχεται ότι ερευνητές σε διάφορες μελέτες εντόπισαν μερικά αδύνατα σημεία του Glaze, αλλά παραμένει πεπεισμένος ότι το Glaze και το Nightshade αξίζουν να χρησιμοποιηθούν, δεδομένου ότι «τα εργαλεία ασφαλείας δεν είναι ποτέ τέλεια». Είναι «απλοϊκό να σκεφτόμαστε ότι αν έχεις ένα πραγματικό πρόβλημα ασφαλείας στην πράξη και προσπαθείς να σχεδιάσεις ένα εργαλείο προστασίας, η απάντηση πρέπει να είναι ότι είτε λειτουργεί τέλεια είτε να μην το χρησιμοποιήσεις».
Μέχρι στιγμής, οι δημιουργοί δεν κερδίζουν ακριβώς. Αρκετές εταιρείες έχουν ήδη αντικαταστήσει σχεδιαστές, συντάκτες και εικονογράφους με συστήματα AI. Σε μια περίπτωση υψηλού συμβολισμού με φόντο το μέλλον, η Marvel Studios χρησιμοποίησε εικόνες που παράχθηκαν από AI αντί για ανθρώπινη τέχνη στη σεκάνς τίτλων της τηλεοπτικής σειράς του 2023 “Secret Invasion”. Υπάρχουν πολλές εκκρεμείς αγωγές από καλλιτέχνες, συγγραφείς, εκδότες και δισκογραφικές εταιρείες κατά των εταιρειών AI. Πιθανότατα θα χρειαστούν χρόνια μέχρι να υπάρξει μια σαφής νομική λύση. Μία δικαστική απόφαση όμως δεν θα λύσει απαραίτητα τα δύσκολα ηθικά ζητήματα που δημιουργεί η AI.
Σε ένα ευρύτερο επίπεδο, ο Τζάο ελπίζει ότι τα Glaze και Nightshade έχουν τελικά τη δύναμη να αλλάξουν τον τρόπο με τον οποίο οι εταιρείες AI χρησιμοποιούν την τέχνη και τον τρόπο που τα προϊόντα τους την παράγουν. Είναι εξαιρετικά δαπανηρό να εκπαιδευτούν μοντέλα AI και εξαιρετικά επίπονο για τους μηχανικούς να βρουν και να εξαλείψουν δηλητηριασμένα δείγματα σε ένα σύνολο δεδομένων δισεκατομμυρίων εικόνων. Θεωρητικά, αν υπάρχουν αρκετές εικόνες Nightshade στο διαδίκτυο και οι εταιρείες τεχνολογίας δουν τα μοντέλα τους να καταρρέουν ως αποτέλεσμα, αυτό θα μπορούσε να ωθήσει τους προγραμματιστές στο τραπέζι των διαπραγματεύσεων για να διαπραγματευτούν την αδειοδότηση και την δίκαιη αποζημίωση. Αυτό είναι, φυσικά, ένα μεγάλο «αν»…
Χωρίς να χάνει χρόνο το SAND Lab προχωράει και αναζητά χρηματοδότηση από ιδρύματα και μη κερδοσκοπικούς οργανισμούς για να συνεχίσει και να βελτιώσει το έργο του. Υποστηρίζουν ότι υπάρχει ενδιαφέρον από μεγάλες εταιρείες που επιθυμούν να προστατεύσουν την πνευματική τους ιδιοκτησία. Μένει να φανεί ποια είναι η συνέχεια σε μία ιστορία που δεδομένα θα έχει αρκετά ακόμα επεισόδια.
*Με στοιχεία από το Technology Review.
☞︎ Ακολουθήστε το OLAFAQ στο Facebook, X/Twitter και Instagram.
Ο Τζάο, ερευνητής στην ασφάλεια υπολογιστών στο Πανεπιστήμιο του Σικάγο είχε γίνει γνωστός κατασκευάζοντας εργαλεία για την προστασία εικόνων από τεχνολογία αναγνώρισης προσώπου. Αυτή η δουλειά του κέντρισε το ενδιαφέρον μίας εικονογράφου φαντασίας, η οποία τον προσκάλεσε στη συνάντηση που διοργάνωσε η Ένωση Concept Art, μια οργάνωση υπεράσπισης των πνευματικών δικαιωμάτων των καλλιτεχνών.
Οι καλλιτέχνες μοιράστηκαν λεπτομέρειες για το πώς είχαν πληγεί από την έκρηξη της τεχνητής νοημοσύνης, η οποία τότε ήταν ακόμα στα πρώτα της βήματα. Η τεχνολογική κοινότητα ήταν ενθουσιασμένη με μοντέλα AI που παράγουν εικόνες, όπως το Midjourney, το Stable Diffusion και το DALL-E 2 της OpenAI τα οποία μπορούσαν να απεικονίσουν φανταστικά τοπία. Από τη μεριά τους οι δημιουργοί έβλεπαν αυτό το τεχνολογικό θαύμα ως μια νέα μορφή κλοπής. Ένιωθαν ότι τα μοντέλα αυτά ουσιαστικά έκλεβαν και αντικαθιστούσαν τη δουλειά τους. Κάποιοι είχαν ανακαλύψει ότι η τέχνη τους είχε «αντληθεί» από το διαδίκτυο και είχε χρησιμοποιηθεί για να εκπαιδεύσει τα μοντέλα. Ο Τζάο θυμάται πόσο σοκαρίστηκε από όσα άκουσε. «Οι άνθρωποι σου λένε κυριολεκτικά ότι χάνουν το βιοπορισμό τους. Αυτό είναι κάτι που απλά δεν μπορείς να αγνοήσεις».
Σήμερα εκατομμύρια καλλιτέχνες έχουν υιοθετήσει δύο εργαλεία που γεννήθηκαν από εκείνη τη συνάντηση: το Glaze και το Nightshade, τα οποία αναπτύχθηκαν από τον Τζάο και το SAND Lab του Πανεπιστημίου του Σικάγο (ειδικό για την «ασφάλεια, τους αλγόριθμους, τα δίκτυα και τα δεδομένα).
Πώς λειτουργούν τα δύο εργαλεία;
Ίσως τα πιο ισχυρά «όπλα» στο οπλοστάσιο των καλλιτεχνών ενάντια στην ανάλυση από AI χωρίς συναίνεση, το Glaze και το Nightshade λειτουργούν με παρόμοιους τρόπους: προσθέτοντας αυτό που οι ερευνητές αποκαλούν «ελάχιστα αντιληπτές» μεταβολές στα pixel μιας εικόνας, ώστε τα μοντέλα μηχανικής μάθησης να μην μπορούν να τις διαβάσουν σωστά. Το Glaze, το οποίο έχει κατέβει πάνω από 6 εκατομμύρια φορές από την κυκλοφορία του τον Μάρτιο του 2023 προσθέτει ουσιαστικά έναν μυστικό «μανδύα» στις εικόνες που εμποδίζει τους αλγόριθμους AI από το να αντιλαμβάνονται και να αντιγράφουν το ύφος ενός καλλιτέχνη. Το Nightshade προσθέτει μία αόρατη «τοξική» στρώση στις εικόνες, που μπορεί να καταστρέψει τα μοντέλα AI. Έχει κατέβει πάνω από 1,6 εκατομμύρια φορές.
Ο Τζάο ελπίζει ότι τα εργαλεία θα κάνουν περισσότερα από το να ενδυναμώσουν μεμονωμένους καλλιτέχνες. Το Glaze και το Nightshade είναι μέρος αυτού που βλέπει ως μάχη για να γείρει την ισορροπία δύναμης από τις μεγάλες εταιρείες προς τους ανεξάρτητους δημιουργούς. «Είναι απίστευτα απογοητευτικό να βλέπεις την ανθρώπινη ζωή να εκτιμάται τόσο λίγο».
Το SAND Lab είναι μια δεμένη ομάδα, αποτελούμενη από περίπου δώδεκα ερευνητές σε μια γωνιά του κτιρίου πληροφορικής στο Πανεπιστήμιο του Σικάγο. Η ομάδα έχει αναπτύξει ένα «βραχιόλι σιωπής» που μπλοκάρει τα μικρόφωνα σε συσκευές AI, όπως το Amazon Echo. Έχει επίσης δημιουργήσει ένα εργαλείο που ονομάζεται Fawkes (για τη «θωράκιση της ιδιωτικότητας»), το οποίο οι άνθρωποι μπορούν να εφαρμόσουν στις φωτογραφίες τους για προστασία από το λογισμικό αναγνώρισης προσώπου. Το Fawkes ήταν αυτό που κίνησε το ενδιαφέρον της εικονογράφου φαντασίας πριν δύο χρόνια. Ήλπιζε ότι κάτι παρόμοιο θα μπορούσε να λειτουργήσει ως προστασία ενάντια στην AI και για αυτό πρότεινε την πρόσκληση στη συνάντηση της Concept Art Association. Κάπως έτσι ξεκίνησε ένας αγώνας δρόμου.
Σχεδόν όλοι οι καλλιτέχνες δήλωσαν ότι δημοσιεύουν τη δουλειά τους στο διαδίκτυο και πάνω από τους μισούς είπαν ότι σχεδίαζαν να μειώσουν ή να αφαιρέσουν το έργο τους από το διαδίκτυο όποιες κι αν ήταν οι επαγγελματικές και οικονομικές συνέπειες.
Ενώ το Glaze είναι ένας αμυντικός μηχανισμός, το Nightshade σχεδιάστηκε για να λειτουργεί ως αποτρεπτικός παράγοντας ενάντια στην εκπαίδευση χωρίς συναίνεση. Λειτουργεί αλλάζοντας τα pixels των εικόνων με τρόπους που δεν είναι ορατοί στο ανθρώπινο μάτι, αλλά παραπλανούν τα μοντέλα μηχανικής μάθησης ώστε να ερμηνεύουν την εικόνα διαφορετικά από ό,τι δείχνει στην πραγματικότητα. Αυτή τη στιγμή και τα δύο εργαλεία είναι διαθέσιμα ως δωρεάν εφαρμογές.
Tα δύο εργαλεία έχουν περάσει από αυστηρό ακαδημαϊκό έλεγχο και έχουν κερδίσει αναγνώριση στην κοινότητα ασφάλειας υπολογιστών. Το Nightshade έγινε δεκτό στο IEEE Symposium on Security and Privacy, ενώ το Glaze έλαβε το βραβείο διακεκριμένου άρθρου και το Βραβείο Internet Defense του 2023 στο Usenix Security Symposium, ένα κορυφαίο συνέδριο στον τομέα.
Ο Τζάο παραδέχεται ότι ερευνητές σε διάφορες μελέτες εντόπισαν μερικά αδύνατα σημεία του Glaze, αλλά παραμένει πεπεισμένος ότι το Glaze και το Nightshade αξίζουν να χρησιμοποιηθούν, δεδομένου ότι «τα εργαλεία ασφαλείας δεν είναι ποτέ τέλεια». Είναι «απλοϊκό να σκεφτόμαστε ότι αν έχεις ένα πραγματικό πρόβλημα ασφαλείας στην πράξη και προσπαθείς να σχεδιάσεις ένα εργαλείο προστασίας, η απάντηση πρέπει να είναι ότι είτε λειτουργεί τέλεια είτε να μην το χρησιμοποιήσεις».
Μέχρι στιγμής, οι δημιουργοί δεν κερδίζουν ακριβώς. Αρκετές εταιρείες έχουν ήδη αντικαταστήσει σχεδιαστές, συντάκτες και εικονογράφους με συστήματα AI. Σε μια περίπτωση υψηλού συμβολισμού με φόντο το μέλλον, η Marvel Studios χρησιμοποίησε εικόνες που παράχθηκαν από AI αντί για ανθρώπινη τέχνη στη σεκάνς τίτλων της τηλεοπτικής σειράς του 2023 “Secret Invasion”. Υπάρχουν πολλές εκκρεμείς αγωγές από καλλιτέχνες, συγγραφείς, εκδότες και δισκογραφικές εταιρείες κατά των εταιρειών AI. Πιθανότατα θα χρειαστούν χρόνια μέχρι να υπάρξει μια σαφής νομική λύση. Μία δικαστική απόφαση όμως δεν θα λύσει απαραίτητα τα δύσκολα ηθικά ζητήματα που δημιουργεί η AI.
Σε ένα ευρύτερο επίπεδο, ο Τζάο ελπίζει ότι τα Glaze και Nightshade έχουν τελικά τη δύναμη να αλλάξουν τον τρόπο με τον οποίο οι εταιρείες AI χρησιμοποιούν την τέχνη και τον τρόπο που τα προϊόντα τους την παράγουν. Είναι εξαιρετικά δαπανηρό να εκπαιδευτούν μοντέλα AI και εξαιρετικά επίπονο για τους μηχανικούς να βρουν και να εξαλείψουν δηλητηριασμένα δείγματα σε ένα σύνολο δεδομένων δισεκατομμυρίων εικόνων. Θεωρητικά, αν υπάρχουν αρκετές εικόνες Nightshade στο διαδίκτυο και οι εταιρείες τεχνολογίας δουν τα μοντέλα τους να καταρρέουν ως αποτέλεσμα, αυτό θα μπορούσε να ωθήσει τους προγραμματιστές στο τραπέζι των διαπραγματεύσεων για να διαπραγματευτούν την αδειοδότηση και την δίκαιη αποζημίωση. Αυτό είναι, φυσικά, ένα μεγάλο «αν»…
Χωρίς να χάνει χρόνο το SAND Lab προχωράει και αναζητά χρηματοδότηση από ιδρύματα και μη κερδοσκοπικούς οργανισμούς για να συνεχίσει και να βελτιώσει το έργο του. Υποστηρίζουν ότι υπάρχει ενδιαφέρον από μεγάλες εταιρείες που επιθυμούν να προστατεύσουν την πνευματική τους ιδιοκτησία. Μένει να φανεί ποια είναι η συνέχεια σε μία ιστορία που δεδομένα θα έχει αρκετά ακόμα επεισόδια.
*Με στοιχεία από το Technology Review.
☞︎ Ακολουθήστε το OLAFAQ στο Facebook, X/Twitter και Instagram.
