Τεχνητή νοημοσύνη: Κλώνοι φωνής σε 3 δευτερόλεπτα και το τέλος της αλήθειας

Αρκούν τρία δευτερόλεπτα ηχογραφημένης φωνής, από ένα Instagram story, ένα voicemail, ένα TikTok, για να δημιουργηθεί ένας ψηφιακός κλώνος με ακρίβεια 85%. Κόστος: κάτω από 10 δολάρια. Χρόνος: λεπτά.

Σήμερα το πρωί γράψαμε για οικογένειες στην Κίνα που πληρώνουν τεχνικούς AI για να «αναστήσουν» νεκρούς συγγενείς μέσω βιντεοκλήσεων (To Brief). Στα χέρια απατεώνων, η ίδια τεχνολογία γίνεται όπλο. Στη Φλόριντα, μια γυναίκα έστειλε 15.000 δολάρια αφού άκουσε την «κόρη» της να κλαίει στο τηλέφωνο. Η κόρη ήταν στη δουλειά της. Η φωνή ήταν τεχνητή.

Τα σημάδια που μάθαμε να βλέπουμε δεν υπάρχουν πια

Μέχρι πρόσφατα, ένα μήνυμα ηλεκτρονικού ψαρέματος (phishing) πρόδιδε τον εαυτό του: κακή σύνταξη, ανορθογραφίες, γενικές φράσεις. Τώρα, τα μοντέλα τεχνητής νοημοσύνης γράφουν άψογα ελληνικά, αναφέρουν το όνομά σας, την τράπεζά σας, ακόμα και πρόσφατες συναλλαγές σας. Σύμφωνα με την Kaseya, τα παραδοσιακά σήματα κινδύνου εξαφανίζονται. Τα αυτοματοποιημένα μηνύματα απάτης πετυχαίνουν τετραπλάσιο ποσοστό κλικ σε σχέση με τα χειροποίητα.

Το πρόβλημα όμως δεν είναι μόνο οι απατεώνες. Τα ίδια τα συστήματα είναι τυφλά στην αλήθεια.

Η ψεύτικη ασθένεια που κανένα AI δεν αναγνώρισε

Μια Σουηδή ερευνήτρια επινόησε μια ανύπαρκτη ασθένεια ματιών, τη «bixonimania», και τη δημοσίευσε σε μια πρόωρη επιστημονική δημοσίευση. Η φάρσα ήταν εξόφθαλμη: στις ευχαριστίες ανέφερε την Ακαδημία του Starfleet και το κείμενο ανέφερε ρητά «αυτό το έγγραφο είναι πλήρως ψευδές».

Δεν πείραξε κανένα μοντέλο. Μέσα σε εβδομάδες, ChatGPT, Gemini, Copilot και Perplexity παρουσίαζαν τη bixonimania ως πραγματική πάθηση. Η Perplexity μάλιστα «υπολόγισε» ότι 1 στους 90.000 ανθρώπους πάσχει. Αυτά τα μοντέλα δεν ξεχωρίζουν αλήθεια από ψέμα. Αναγνωρίζουν μοτίβα κειμένου, και αν κάτι μοιάζει με ιατρικό άρθρο, το αποδέχονται.

Προπαγάνδα σε στυλ Lego

Την ίδια αδυναμία εκμεταλλεύονται κρατικοί δράστες. Μια μικρή ομάδα που ονομάζεται Explosive Media παράγει βίντεο σε στυλ Lego για λογαριασμό του Ιράν: χαριτωμένες φιγούρες που δείχνουν πολέμους, τραυματισμένα παιδιά, μαχητικά αεροσκάφη. Ένα βίντεο δύο λεπτών φτιάχνεται σε 24 ώρες και μαζεύει εκατοντάδες εκατομμύρια προβολές. Η αισθητική του παιχνιδιού κρύβει τη βαρύτητα του μηνύματος. Αυτό ακριβώς τα κάνει τόσο αποτελεσματικά.

Το πιο επικίνδυνο θύμα αυτής της τεχνολογίας δεν είναι ένας συγκεκριμένος άνθρωπος. Είναι τα σήματα αξιοπιστίας πάνω στα οποία χτίσαμε την ψηφιακή μας ζωή. Η μόνη άμυνα που απομένει είναι παλιομοδίτικη: σηκώστε το τηλέφωνο, καλέστε τον ίδιο τον άνθρωπο, και συμφωνήστε μια κωδική λέξη που κανένα μοντέλο δεν μπορεί να μαντέψει.