Η ομάδα DeepMind της Google πιστεύει εδώ και χρόνια ότι η δημιουργία εργαλείων δημιουργικής τεχνητής νοημοσύνης απαιτεί επίσης τη δημιουργία εξαιρετικών εργαλείων για την ανίχνευση του τι έχει δημιουργηθεί από την τεχνητή νοημοσύνη. Υπάρχουν πολλοί προφανείς, υψηλού κινδύνου λόγοι για τους οποίους, λέει ο διευθύνων σύμβουλος της Google DeepMind Demis Hassabis.
«Κάθε φορά που μιλάμε γι’ αυτό και για άλλα συστήματα, λέμε: “Τι γίνεται με το πρόβλημα των deepfakes;”». Με άλλη μια αμφιλεγόμενη προεκλογική περίοδο να έρχεται το 2024 τόσο στις ΗΠΑ όσο και στο Ηνωμένο Βασίλειο, ο Hassabis λέει ότι η δημιουργία συστημάτων για τον εντοπισμό και την ανίχνευση εικόνων τεχνητής νοημοσύνης είναι όλο και πιο σημαντική.
Ο Hassabis και η ομάδα του εργάζονται πάνω σε ένα εργαλείο τα τελευταία χρόνια, το οποίο η Google έδωσε εχθές στη δημοσιότητα. Ονομάζεται SynthID, και έχει σχεδιαστεί για να υδατογραφήσει ουσιαστικά μια εικόνα που παράγεται από τεχνητή νοημοσύνη με τρόπο που να είναι ανεπαίσθητος από το ανθρώπινο μάτι, αλλά να εντοπίζεται εύκολα από ένα ειδικό εργαλείο ανίχνευσης τεχνητής νοημοσύνης.
Το υδατογράφημα (watermark) ενσωματώνεται στα pixels της εικόνας, αλλά ο Hassabis λέει ότι δεν μεταβάλλει την ίδια την εικόνα με αξιοσημείωτο τρόπο. «Δεν αλλάζει την εικόνα, την ποιότητα της εικόνας ή την εμπειρία της», λέει. «Αλλά είναι ανθεκτικό σε διάφορους μετασχηματισμούς -περικοπή, αλλαγή μεγέθους, όλα τα πράγματα που μπορεί να κάνετε για να προσπαθήσετε να παρακάμψετε τα κανονικά, παραδοσιακά, απλά υδατογραφήματα». Καθώς τα υποκείμενα μοντέλα του SynthID βελτιώνονται, λέει ο Hassabis, το υδατογράφημα θα είναι ακόμη λιγότερο αντιληπτό από το ανθρώπινο μάτι, αλλά ακόμη πιο εύκολα ανιχνεύσιμο από τα εργαλεία της DeepMind.
Αυτά τα στοιχεία είναι και τα πιο “τεχνικά” που έχει δώσει στη δημοσιότητα ο Hassabis και η Google DeepMind, προς το παρόν. Ακόμα και η ανάρτηση στο blog για την έναρξη του SynthID είναι φτωχή σε λεπτομέρειες, επειδή αυτό το νέο σύστημα είναι ακόμα νέο. «Όσο περισσότερα αποκαλύπτεις για τον τρόπο λειτουργίας του, τόσο πιο εύκολο θα είναι για τους χάκερ και τις κακόβουλες οντότητες να το παρακάμψουν», λέει ο Hassabis.
Το SynthID επικεντρώνεται κυρίως στην Google: Οι πελάτες του Google Cloud που χρησιμοποιούν την πλατφόρμα Vertex AI της εταιρείας και τη γεννήτρια εικόνων Imagen θα μπορούν να ενσωματώσουν και να ανιχνεύσουν το υδατογράφημα. Καθώς το σύστημα λαμβάνει περισσότερες δοκιμές, ο Hassabis ελπίζει ότι θα γίνει καλύτερο. Τότε η Google θα είναι σε θέση να το χρησιμοποιήσει σε περισσότερους τομείς, να μοιραστεί περισσότερα σχετικά με τον τρόπο λειτουργίας του και να λάβει ακόμη περισσότερα δεδομένα σχετικά με τον τρόπο λειτουργίας του.
Ο Hassabis φαίνεται να ελπίζει ότι το SynthID θα μπορούσε να γίνει κάτι σαν ένα «πρότυπο» για όλο το διαδίκτυο. Οι θεμελιώδεις ιδέες του θα μπορούσαν να χρησιμοποιηθούν ακόμη και σε άλλα μέσα όπως το βίντεο και το κείμενο. Μόλις η Google αποδείξει ότι η τεχνολογία της είναι κατάλληλη, «το ζήτημα είναι η κλιμάκωσή της, η κοινοποίησή της σε άλλους εταίρους που την επιθυμούν, και στη συνέχεια η κλιμάκωση της λύσης για τους καταναλωτές – και στη συνέχεια η συζήτηση με την κοινωνία των πολιτών για το πού θέλουμε να το πάμε». Λέει επανειλημμένα ότι πρόκειται για μια δοκιμή beta, μια πρώτη προσπάθεια σε έναν νέο τομέα και όχι απαραίτητα ότι θα μπορέσει να καταπολεμήσει το πρόβλημα των deepfake. Αλλά πιστεύει ξεκάθαρα ότι θα μπορούσε να είναι βοηθήσει.
Φυσικά, η Google δεν είναι η μόνη εταιρεία με αυτή τη συγκεκριμένη φιλοδοξία. Κάθε άλλο. Μόλις τον περασμένο μήνα, η Meta, η OpenAI, η Google και πολλά άλλα μεγαλύτερα ονόματα στον τομέα της τεχνητής νοημοσύνης υποσχέθηκαν να ενσωματώσουν περισσότερα συστήματα προστασίας και ασφάλειας για την τεχνητή νοημοσύνη τους.
Ορισμένες εταιρείες εργάζονται επίσης με ένα πρωτόκολλο που ονομάζεται C2PA, το οποίο χρησιμοποιεί κρυπτογραφικά μεταδεδομένα (metadata) για την επισήμανση περιεχομένου που παράγεται από την τεχνητή νοημοσύνη. Έτσι, φαίνεται πιθανό ότι θα έχουμε πάρα πολλά πρότυπα ανίχνευσης ΤΝ προτού αποκτήσουμε αυτά που πραγματικά λειτουργούν. Αλλά ο Hassabis είναι βέβαιος ότι η υδατογράφηση θα αποτελέσει τουλάχιστον μέρος της απάντησης στους προβληματισμούς γύρω από τα έργα τεχνητής νοημοσύνης.
Πηγή: The Verge
