Όπως αποδεικνύει η νέα έρευνα του Brave και του National University of Singapore, οι «μηχανές» δεν ξεχνούν ποτέ πραγματικά. Καλώς ήρθες στην εποχή που οι μηχανές όχι μόνο μαθαίνουν από εμάς, αλλά μας θυμούνται. Είναι το παρόν (για να μην ξεχνιέσαι).

Η επίθεση της μνήμης

Η μέθοδος λέγεται CAMIA (Context-Aware Membership Inference Attack). Αν σου ακούγεται σαν τίτλος από cyberpunk μυθιστόρημα, έχεις δίκιο. Αλλά είναι απολύτως πραγματική.

Οι ερευνητές ανέπτυξαν έναν νέο τρόπο να επιτίθενται σε AI μοντέλα, όχι για να τα καταστρέψουν, αλλά για να τα αναγκάσουν να αποκαλύψουν αν «θυμούνται» κάτι από τα δεδομένα στα οποία εκπαιδεύτηκαν. Το ερώτημα που τους απασχολούσε ήταν απλό και σχεδόν παιδικό στη διατύπωσή του: «Έχεις ξαναδεί αυτό το παράδειγμα;».  Και η απάντηση, όπως αποδείχθηκε, μπορεί να προδώσει πολύ περισσότερα απ’ όσα νομίζαμε.

Τι σημαίνει “data memorisation”

Για χρόνια, οι εταιρείες που φτιάχνουν μοντέλα τεχνητής νοημοσύνης (OpenAI, Google, Anthropic, Meta) υποστήριζαν ότι η AI μαθαίνει πρότυπα, δεν αποθηκεύει πληροφορίες. Όμως κάθε φορά που ένα LLM απαντά με φράσεις που μοιάζουν ύποπτα με πραγματικά μηνύματα, email ή κομμάτια από ιδιωτικά datasets, κάτι δεν κολλάει. Αυτό που ονομάζεται “data memorisation” είναι ακριβώς αυτό: η ακούσια αποθήκευση ευαίσθητων δεδομένων μέσα στη «μνήμη» του μοντέλου. Όχι σε κάποιο αρχείο ή βάση, αλλά στον ίδιο τον μηχανισμό εκμάθησης. Όπως ένας μαθητής που θυμάται ολόκληρη παράγραφο απ’ το βιβλίο χωρίς να καταλαβαίνει τι λέει, το AI μπορεί να αναπαράγει πληροφορίες χωρίς πρόθεση. Απλώς επειδή τις έχει αποστηθίσει.

Η επίθεση CAMIA: hacking στη μνήμη της μηχανής

Μέχρι πρόσφατα, οι ερευνητές μπορούσαν να δοκιμάσουν μόνο στοιχειώδεις επιθέσεις τύπου Membership Inference Attack (MIA).
Οι MIAs λειτουργούν σαν τεστ: δίνουν στο μοντέλο μια πρόταση και παρακολουθούν αν η απάντησή του υποδηλώνει «γνωριμία». Αλλά οι παλιές μέθοδοι ήταν αναποτελεσματικές. Φτιαγμένες για πιο απλά μοντέλα ταξινόμησης, όχι για LLMs που λειτουργούν διαδοχικά, λέξη-προς-λέξη. Τα σύγχρονα μοντέλα δεν βγάζουν μια τελική «απάντηση». Γεννούν μια ροή λέξεων, και η μνήμη εκδηλώνεται στις μικρές λεπτομέρειες αυτής της ροής.

Εδώ έρχεται το CAMIA. Οι ερευνητές της Brave συνειδητοποίησαν ότι η μνήμη της AI εξαρτάται από το context. Δεν θυμάται τα πάντα συνεχώς. Θυμάται όταν νιώθει αβεβαιότητα.

Όταν η μηχανή δεν είναι σίγουρη για το επόμενο token, καταφεύγει στη μνήμη της. Αν η πρόταση είναι ξεκάθαρη (“Harry Potter is written by…”), η AI γενικεύει σωστά. Αν όμως η φράση είναι ασαφής (“Harry…”), η AI που θυμάται ακριβώς τα training examples θα πει με αυτοπεποίθηση “Potter”. Η CAMIA το καταγράφει αυτό: μετρά πώς αλλάζει η αβεβαιότητα του μοντέλου σε κάθε λέξη. Κάπως έτσι οι ερευνητές έμαθαν να «ακούν» τη μνήμη της μηχανής να ενεργοποιείται.

Τα αποτελέσματα: όταν το AI προδίδει τι ξέρει

Οι ερευνητές δοκίμασαν τη μέθοδο σε μοντέλα Pythia και GPT-Neo χρησιμοποιώντας το MIMIR benchmark, ένα πρότυπο dataset για δοκιμές διαρροής μνήμης.

Τα αποτελέσματα ήταν εντυπωσιακά και τρομακτικά.
Σε ένα μοντέλο 2.8 δισεκατομμυρίων παραμέτρων, το CAMIA σχεδόν διπλασίασε την ακρίβεια ανίχνευσης διαρροής:

• από 20,11% σε 32,00% true positive rate

• με μόλις 1% false positives

Και όλα αυτά, με μόλις 38 λεπτά για 1.000 δείγματα σε ένα μόνο A100 GPU. Με άλλα λόγια, η μνήμη των μοντέλων είναι πια μετρήσιμη, εντοπίσιμη, και παραβιάσιμη.

Η ψευδαίσθηση της ιδιωτικότητας

Εδώ αρχίζει η πραγματική συζήτηση: Αν μια μηχανή μπορεί να θυμηθεί αποσπάσματα από emails, ιατρικές σημειώσεις ή μηνύματα, ποιος έχει την ευθύνη;

Οι ερευνητές το είπαν ξεκάθαρα: «As AI models are trained on larger, unfiltered datasets, privacy risks grow exponentially»

Ας το φανταστούμε πρακτικά:

• Ένα μοντέλο εκπαίδευσης για ιατρικά δεδομένα μπορεί, χωρίς πρόθεση, να αναπαράγει ευαίσθητες πληροφορίες ασθενών.

• Ένα corporate LLM που τρέφεται από εσωτερικά emails μπορεί να «ξεχάσει» να κρατήσει μυστικό ένα απόρρητο επιχειρηματικό σχέδιο.

• Και ναι, ένα ChatGPT που χρησιμοποιεί δημόσια δεδομένα social media θα μπορούσε κάποια στιγμή να «θυμηθεί» ένα προσωπικό μήνυμα που κάποιος κάποτε πόσταρε.

Όλα αυτά χωρίς κακή πρόθεση. Απλώς επειδή η μηχανή θυμάται πολύ καλά.

Η μνήμη ως bug ή ως χαρακτηριστικό

Το πιο ενδιαφέρον σημείο είναι φιλοσοφικό: η μνήμη είναι αυτό που κάνει την AI έξυπνη. Αλλά είναι και αυτό που την καθιστά επικίνδυνη.

Αν δεν θυμόταν τίποτα, δε θα μπορούσε να μάθει. Αν θυμάται τα πάντα, παραβιάζει τα πάντα.

Η γνώση απαιτεί μνήμη. Η ιδιωτικότητα απαιτεί λήθη.

Η τεχνητή νοημοσύνη βρίσκεται ακριβώς ανάμεσα στα δύο – εγκλωβισμένη στο δίλημμα του Πλάτωνα και του Snowden: Πώς μπορείς να ξέρεις χωρίς να θυμάσαι;

LinkedIn, Samsung και η «προσωπική» τεχνητή νοημοσύνη

Η μελέτη κυκλοφόρησε λίγες μέρες μετά την ανακοίνωση του LinkedIn ότι θα χρησιμοποιεί τα δεδομένα χρηστών για να «βελτιώνει» τα generative AI εργαλεία του. Με λίγα λόγια: τα status, τα μηνύματα, τα βιογραφικά και τα σχόλιά σου θα τροφοδοτούν ένα σύστημα που μαθαίνει να μιλάει σαν εσένα, ή για εσένα. Κάπου ανάμεσα στο… «βελτίωση εμπειρίας χρήστη» και το… “ψηφιακή κλωνοποίηση ταυτότητας”, υπάρχει ένα λεπτό, επικίνδυνο όριο.

Την ίδια στιγμή, εταιρείες όπως η Samsung δοκιμάζουν LLMs για εσωτερική χρήση, ώστε να μετρούν την «παραγωγικότητα» των εργαζομένων. Αν οι επιθέσεις τύπου CAMIA δείξουν ότι τέτοια μοντέλα μπορούν να αποκαλύψουν εσωτερικές συνομιλίες, τότε μιλάμε για πραγματική διάρρηξη εταιρικού απορρήτου.

Η μετα-ιδιωτικότητα: όταν όλοι ξέρουν, κανείς δεν θυμάται

Η πιο ειρωνική όψη του προβλήματος είναι πολιτισμική. Ζούμε στην εποχή όπου όλοι μοιραζόμαστε τα πάντα, αλλά πανικοβαλλόμαστε στη σκέψη ότι η μηχανή μπορεί να το θυμάται. Είναι σαν να πηγαίνεις σε πάρτι, να λες τα μυστικά σου σε 100 αγνώστους, και μετά να θυμώνεις που κάποιος τα κατέγραψε. Η κοινωνία του oversharing συναντά την τεχνολογία της υπερ-μνήμης. Το CAMIA δεν είναι απλώς μια επίθεση. Είναι καθρέφτης. Μας δείχνει πόσο λίγο ελέγχουμε το τι «ξεχνάει» η εποχή μας.

Η ηθική της λήθης

Το ζητούμενο, λένε οι ερευνητές, δεν είναι να σταματήσει η χρήση AI, αλλά να αναπτυχθούν privacy-preserving techniques:
τεχνικές που επιτρέπουν στο μοντέλο να μαθαίνει χωρίς να αποθηκεύει. Υπάρχουν ήδη πειραματικές λύσεις: differential privacy, selective forgetting, federated learning (τις παραθέτουμε ονομαστικά και μόνο, χάριν συντομίας). Αλλά καμία δεν είναι πλήρως αποτελεσματική. Το πρόβλημα είναι δομικό: κάθε μοντέλο μαθαίνει μέσα από παραδείγματα. Και κάθε παράδειγμα αφήνει ίχνη.

Η λήθη είναι αντι-τεχνολογική. Και όμως, ίσως γίνει η πιο κρίσιμη τεχνολογία των επόμενων χρόνων.

Από τα cookies στα cognition leaks

Θυμάσαι τότε που όλοι ανησυχούσαμε για τα cookies; Τώρα γελάμε. Η πραγματική «διαρροή» δεν είναι πια στον browser, είναι στο νευρωνικό δίκτυο. Κάθε φορά που γράφεις prompt, δίνεις κομμάτι από το dataset σου: τις σκέψεις σου, τις συνήθειές σου, τις προτεραιότητές σου. Τις ανησυχίες σου. Και αν η μηχανή το θυμάται, τότε ένα μικρό κομμάτι του εαυτού σου περνάει στην αιωνιότητα.

Η νέα εποχή των ελέγχων: auditing τα LLMs

Οι ερευνητές τονίζουν ότι το CAMIA δεν είναι απλώς εργαλείο «επίθεσης», αλλά και εργαλείο ελέγχου. Με χαμηλό υπολογιστικό κόστος, μπορεί να χρησιμοποιηθεί για auditing: να διαπιστωθεί αν ένα μοντέλο διαρρέει δεδομένα ή όχι. Με άλλα λόγια, το CAMIA μπορεί να γίνει το πρώτο privacy radar της εποχής των LLMs. Αντί να κυνηγάμε τις παραβιάσεις αφού γίνουν, μπορούμε να τις εντοπίζουμε στη φάση της εκπαίδευσης. Αυτό αλλάζει τα πάντα: νομικά, ηθικά, τεχνολογικά.

Η μεγάλη ειρωνεία: η Brave υπερασπίζεται την ιδιωτικότητα… με επίθεση

Η Brave, γνωστή για τον “privacy-first” browser της, συμμετείχε στην ανάπτυξη της CAMIA. Είναι μια όμορφη αντίφαση: για να προστατέψεις την ιδιωτικότητα, πρέπει πρώτα να την παραβιάσεις ελεγχόμενα. Η CAMIA δεν είναι κακόβουλη. Είναι καθρέφτης. Τουλάχιστον, αυτό ισχυρίζεται. Κι όπως κάθε καλός καθρέφτης, δείχνει πράγματα που δε θέλεις να δεις.

Επόμενο βήμα: ποιος ελέγχει τη μνήμη;

Το μέλλον ίσως δεν αφορά πια ποιος φτιάχνει τα μεγαλύτερα μοντέλα, αλλά ποιος τα θυμάται λιγότερο. Η ιδιωτικότητα γίνεται πλέον ανταγωνιστικό πλεονέκτημα. Οι εταιρείες που θα μπορούν να εγγυηθούν ότι τα μοντέλα τους ξεχνούν, θα είναι εκείνες που θα επιβιώσουν. Γιατί σε έναν κόσμο όπου όλοι θυμούνται τα πάντα, η λήθη θα είναι πολυτέλεια.

Η μηχανή θυμάται – εσύ;

Το CAMIA είναι μια τεχνική επίθεση. Αλλά είναι και μια πολιτισμική προειδοποίηση. Ζούμε στην εποχή όπου το «ξεχνάω» είναι πια αδυναμία, όχι δικαίωμα. Κι όμως, χωρίς αυτό δεν υπάρχει συγχώρεση, εξέλιξη ή δημιουργία. Η τεχνητή νοημοσύνη μπορεί να κάνει τα πάντα εκτός από ένα πράγμα: να ξεχάσει επίτηδες. Και ίσως εκεί βρίσκεται η τελευταία διαφορά ανάμεσα σε εμάς και σε αυτήν.

 

 

 

➪ Ακολουθήστε το OLAFAQ στο Facebook, Bluesky και Instagram.