Μία selfie, ένα app, λίγα δευτερόλεπτα: πώς η AI έκανε το γυμνό deepfake όπλο σχολικού εκφοβισμού

Παλιά, για να φτιάξεις μια πειστική ψεύτικη γυμνή φωτογραφία κάποιου, χρειαζόσουν τεχνική γνώση, ισχυρό υπολογιστή και δεκάδες εικόνες του στόχου. Γι' αυτό το φαινόμενο αφορούσε σχεδόν αποκλειστικά διάσημους. Σήμερα αρκεί μία φωτογραφία από τα social media και ένα app στο κινητό, και ο στόχος είναι όλο και πιο συχνά ένα παιδί δίπλα στο θρανίο.

Αυτό που άλλαξε δεν είναι ένα μαγικό μοντέλο, αλλά η σύμπτωση ώριμων τεχνολογιών. Η ουσία: το σύστημα δεν χρειάζεται πια δεκάδες φωτογραφίες του θύματος για να «μάθει» το πρόσωπό του. Του αρκεί μία.

Πώς; Τα σύγχρονα συστήματα παραγωγής εικόνας μαθαίνουν να συνθέτουν μια φωτορεαλιστική εικόνα από το μηδέν, αφαιρώντας σταδιακά τυχαίο θόρυβο μέχρι να προκύψει κάτι αληθοφανές (arXiv). Μπορούν, επιπλέον, να ξαναγράψουν μόνο ένα κομμάτι μιας υπάρχουσας φωτογραφίας. Είναι σαν να δείχνεις σε ένα πρόγραμμα επεξεργασίας μια περιοχή και να του λες «ξαναφτιάξε αυτό», με τον αλγόριθμο να τη σχεδιάζει ξανά τόσο πειστικά που το μάτι δεν πιάνει τη ραφή. Νεότερες μέθοδοι κρατούν την ταυτότητα ενός προσώπου από μία μόνο εικόνα, σε δευτερόλεπτα, αν και η συγκεκριμένη τεχνική παραμένει preprint, χωρίς αξιολόγηση από ομότιμους (arXiv). Όλη αυτή η πολυπλοκότητα κρύβεται πίσω από ένα κουμπί.

Δεν είναι hackers, είναι μαζικό προϊόν

Το μέγεθος δείχνει γιατί δεν μιλάμε για περιθωριακό φαινόμενο. Έρευνα του Tech Transparency Project, όπως μεταφέρεται σε δημοσιογραφική κάλυψη, εντόπισε πάνω από 100 εφαρμογές «γυμνοποίησης» στα app stores της Apple και της Google, με πάνω από 700 εκατομμύρια συνολικά downloads και περίπου 117 εκατ. δολάρια έσοδα (Mint). Παράλληλα, η εταιρεία ανάλυσης Graphika παρακολουθεί πάνω από 200 ιστότοπους που προσφέρουν τέτοιες υπηρεσίες (Graphika). Δεν είναι εργαλείο για ειδικούς. Είναι προσιτό προϊόν στα χέρια εφήβων.

Τον Μάιο, στο Brownsville του Τέξας, η αστυνομία συνέλαβε ανήλικο που είχε πάρει φωτογραφίες συμμαθητριών του από τα social media και αντιμετώπισε 10 κατηγορίες για παραγωγή ή διανομή σεξουαλικά ρητού deepfake υλικού (KRGV). Στη Βρετανία, εγκληματίες πήραν φωτογραφίες παιδιών από σχολικές ιστοσελίδες και εκβίαζαν σχολεία (Tagesspiegel). Το μοτίβο δεν είναι καινούργιο: ήδη το 2023, στην ισπανική Almendralejo, πάνω από 20 ανήλικα κορίτσια έγιναν θύματα τέτοιων εφαρμογών από συμμαθητές τους (Deutschlandfunk). Αξιόπιστη διακρατική μέτρηση της συχνότητας δεν υπάρχει ακόμη. Τα στοιχεία είναι περιστατικά και αστυνομικές υποθέσεις, όχι πλήρες σύνολο δεδομένων.

Γιατί δεν είναι «φάρσα»

Η βλάβη δεν εξαρτάται από το αν το σώμα είναι «αληθινό». Το παιδί αναγνωρίζεται, σεξουαλικοποιείται χωρίς συναίνεση και εκτίθεται σε κοινό που το ξέρει: συμμαθητές, διάδρομοι, ομαδικά chats. Παιδοπροστατευτικές πηγές χαρακτηρίζουν τα deepfakes παιδιών μορφή σεξουαλικής βίας, όχι αθώο αστείο (Tagesspiegel). Σε μία υπόθεση, καθηγήτρια που στοχοποιήθηκε από μαθητές με ψεύτικη γυμνή εικόνα περιέγραψε ότι μετά τη διασπορά οι μαθητές την κοιτούσαν επίμονα και έκαναν σχόλια, ενώ δημιουργήθηκε ακόμη και ψεύτικος λογαριασμός που την παρουσίαζε ως πορνοστάρ (Mint). Το κεντρικό τραύμα είναι η απώλεια ελέγχου, με οικογένειες να παλεύουν ταυτόχρονα να στηρίξουν το παιδί και να καθαρίσουν το διαδίκτυο (WSJ). Η βρετανική κυβέρνηση παραδέχεται ότι τέτοιο υλικό μπορεί να έχει «μακροχρόνιες επιπτώσεις» στη ζωή των νέων (gov.uk).

Το πιο ανησυχητικό κομμάτι είναι ότι σχεδόν όλες οι άμυνες ενεργοποιούνται αφού το υλικό κυκλοφορήσει. Ο αμερικανικός νόμος TAKE IT DOWN υποχρεώνει τις πλατφόρμες σε αφαίρεση εντός 48 ωρών από έγκυρη αναφορά (Hunton). Εργαλεία αναφοράς δίνουν στην εικόνα ένα ψηφιακό «αποτύπωμα» ώστε γνωστά αντίγραφα να μπλοκάρονται αλλού (NCMEC). Όμως το αποτύπωμα σπάει μόλις το αρχείο αλλάξει λίγο, γίνει screenshot ή ανέβει σε νέο host. Ακόμη και η ψηφιακή σήμανση προέλευσης C2PA είναι, με τα λόγια της ίδιας, «πιστοποιητικό αυθεντικότητας, όχι λουκέτο» (C2PA). Οι πλατφόρμες ξέρουν να σβήνουν. Δεν ξέρουν να εμποδίζουν.

Σε αυτό το τοπίο, τι μπορεί να κάνει ένας γονιός ή ένα ελληνικό σχολείο σήμερα; Δίαυλοι υπάρχουν: η Δίωξη Ηλεκτρονικού Εγκλήματος μέσω Cyberkid, η SafeLine για παράνομο περιεχόμενο, η Help-line για στήριξη (Cyberkid, SafeLine). Λείπει όμως ένα δημόσιο πρωτόκολλο που να λέει βήμα-βήμα ποιος κάνει τι όταν κυκλοφορήσει συνθετικό γυμνό ανηλίκου. Το πιο εφαρμόσιμο δεν είναι ο πανικός ούτε η απαγόρευση της τεχνολογίας, αλλά λιγότερες δημόσιες αναγνωρίσιμες φωτογραφίες παιδιών, σαφείς σχολικοί κανόνες που τα χαρακτηρίζουν κακοποίηση, και απόκριση χωρίς ενοχοποίηση του θύματος (UNESCO, EdTech Magazine).

Η επόμενη κίνηση είναι θεσμική: το Ευρωπαϊκό Κοινοβούλιο συζητά πρόταση που εντάσσει στην ίδια απαγορευμένη κατηγορία του AI Act τα συστήματα που παράγουν υλικό κακοποίησης παιδιών και τις εφαρμογές γυμνοποίησης (Ευρωπαϊκό Κοινοβούλιο). Μέχρι τότε, το χάσμα ταχυτήτων παραμένει: η εικόνα φτιάχνεται σε δευτερόλεπτα, η ζημιά στο παιδί κρατάει χρόνια.