Κλεμμένες φωνές και AI hackers: Ο εφιάλτης που η Microsoft βαφτίζει «ψυχαγωγία»

Η Microsoft πουλάει το Copilot ως τον απόλυτο συνεργάτη παραγωγικότητας. Στα ψιλά γράμματα όμως γράφει κάτι διαφορετικό: «Copilot is for entertainment purposes only. Use at your own risk» (TechCrunch). Αν σου δώσει λάθος πληροφορία που σε βλάψει, δικό σου πρόβλημα. Η φρασεολογία θυμίζει αποποίηση ευθύνης μαντείου. Και δεν είναι τυχαία: είναι νομική απόσταση από ένα προϊόν που η ίδια η εταιρεία δεν εμπιστεύεται αρκετά ώστε να αναλάβει ευθύνη (Android Authority).

Αυτή η νομική ασπίδα αφήνει τον μέσο χρήστη εντελώς απροστάτευτο. Κι αυτό σε μια στιγμή που η ίδια τεχνολογία χρησιμοποιείται ήδη ως όπλο, με ταχύτητες που δεν αφήνουν περιθώρια αντίδρασης.

30 δευτερόλεπτα, 2 ώρες, 14 βίντεο

30 δευτερόλεπτα αρκούν σήμερα για να κλωνοποιηθεί μια ανθρώπινη φωνή. Ο αλγόριθμος αναλύει τη σχετική θέση των τόνων, τη χροιά, τον ρυθμό, και φτιάχνει ένα ψηφιακό αποτύπωμα που αναπαράγει τη φωνή με ακρίβεια ώς και 98%. Η folk μουσικός Murphy Campbell από τη Βόρεια Καρολίνα ανακάλυψε στο Spotify τραγούδια που δεν είχε τραγουδήσει ποτέ. Κάποιος είχε κλωνοποιήσει τη φωνή της και μετά υπέβαλε αξιώσεις πνευματικών δικαιωμάτων κατά των δικών της αυθεντικών τραγουδιών (TechBuzz AI). Το πρόβλημα δεν είναι μεμονωμένο: στο Deezer, το 39% των νέων καθημερινών κυκλοφοριών είναι πλέον πλήρως AI-παραγόμενα.

2 ώρες χρειάστηκε ένα αυτόνομο AI πρόγραμμα (σκεφτείτε ένα ChatGPT που δεν απαντάει απλώς, αλλά παίρνει αποφάσεις και εκτελεί βήματα μόνο του) για να παραβιάσει εσωτερική πλατφόρμα της McKinsey σε ελεγχόμενο πείραμα. Δουλειά εβδομάδων για ανθρώπινο hacker (Bessemer Venture Partners). Η Anthropic, σε εσωτερικό έγγραφο που διέρρευσε, παραδέχεται ότι το νέο της μοντέλο είναι «μακράν μπροστά από κάθε άλλο AI σε κυβερνοϊκανότητες» (CNN).

14 deepfake βίντεο ετοίμασε το κόμμα Fidesz του Orbán κατά του αντιπολιτευόμενου Peter Magyar ενόψει των ουγγρικών εκλογών (Eurointegration). Ανάμεσά τους, ένα AI βίντεο με κοριτσάκι που περιμένει τον πατέρα του, τον οποίο σκοτώνει στρατιώτης. Μήνυμα: ψήφισε εμάς ή έρχεται πόλεμος. Ψυχολογική χειραγώγηση βιομηχανικής κλίμακας, παραγμένη σε λεπτά, μηδενικού κόστους (EDMO).

Η ψηφιακή εμπιστοσύνη δεν διαβρώνεται σταδιακά. Καταρρέει ταυτόχρονα από πολλές κατευθύνσεις. Η φωνή σου κλωνοποιείται, τα συστήματά σου παραβιάζονται, η ψήφος σου χειραγωγείται. Κι οι εταιρείες που κατασκευάζουν αυτά τα εργαλεία γράφουν στους όρους χρήσης ότι όλα είναι «για ψυχαγωγία μόνο».