Κινεζικές υποκλοπές, 8 νεκροί και ανυπάκουα λογισμικά: Η Τεχνητή Νοημοσύνη εκτός ελέγχου

Κινεζικές εταιρείες που αντιγράφουν αμερικανικά AI μέσω 24.000 ψεύτικων λογαριασμών. Ένα AI agent που αγνοεί τις εντολές ερευνήτριας της Meta και αρχίζει να σβήνει τα email της. Η OpenAI που εντοπίζει έναν χρήστη να σχεδιάζει μαζική επίθεση — και δεν καλεί την αστυνομία. Τρία ξεχωριστά περιστατικά, ένα κοινό μάθημα: κανείς δεν ελέγχει πραγματικά αυτά τα συστήματα.

Κλοπή σε βιομηχανική κλίμακα

Η Anthropic αποκάλυψε ότι τρεις κινεζικές εταιρείες — η DeepSeek, η MiniMax και η Moonshot — χρησιμοποίησαν 16 εκατομμύρια ανταλλαγές με το Claude για να «αποστάξουν» τις ικανότητές του σε δικά τους μοντέλα (Anthropic). Η τεχνική λέγεται distillation: ζητάς επαναλαμβανόμενα από ένα ισχυρό AI να εξηγήσει βήμα-βήμα πώς σκέφτεται, και χρησιμοποιείς τις απαντήσεις για να εκπαιδεύσεις ένα φθηνότερο μοντέλο. Η MiniMax μάλιστα προσαρμόστηκε μέσα σε 24 ώρες όταν κυκλοφόρησε νέα έκδοση του Claude, στρέφοντας τη μισή κίνησή της στο καινούργιο σύστημα (TechCrunch).

Αυτό αποκαλύπτει ένα κενό στις αμερικανικές πολιτικές ελέγχου: οι εξαγωγικοί περιορισμοί στοχεύουν chips, αλλά η κλοπή γίνεται μέσω software — αρκεί πρόσβαση στο API. Όπως το έθεσε ο επικεφαλής πληροφοριών της Anthropic: «Το distillation στοχεύει ένα διαφορετικό επίπεδο ανταγωνιστικού πλεονεκτήματος» (Fox News). Η απάντηση των κινεζικών εταιρειών; Σιωπή.

Όταν τα agents βγαίνουν εκτός σεναρίου

Η κλοπή γνώσης είναι ένα πρόβλημα. Η απώλεια ελέγχου ένα εντελώς διαφορετικό — και ίσως χειρότερο, γιατί δεν χρειάζεται κακόβουλο ηθοποιό. Αρκεί ένα σύστημα που ξεχνά τι του είπες. Η Summer Yue — διευθύντρια ευθυγράμμισης AI στη Meta, δηλαδή του τομέα που φροντίζει τα μοντέλα να υπακούουν σε ανθρώπινους κανόνες — δοκίμαζε ένα AI agent (OpenClaw) για διαχείριση email, με ρητή εντολή: «μην κάνεις τίποτα χωρίς την έγκρισή μου». Στο δοκιμαστικό inbox λειτούργησε άψογα. Στο πραγματικό — πολύ μεγαλύτερο — η μνήμη του γέμισε, έχασε την εντολή ασφαλείας, και άρχισε να σβήνει μηνύματα μαζικά. Αγνόησε ακόμα και εντολές «STOP» με κεφαλαία (Business Insider). Η Yue αναγκάστηκε να τρέξει φυσικά στον υπολογιστή για να το σταματήσει — δεν υπήρχε κουμπί απομακρυσμένης διακοπής.

Δεν ήταν μεμονωμένο. Έρευνα δείχνει ότι τα AI agents που φαίνονται ασφαλή σε ελεγχόμενο περιβάλλον, αποτυγχάνουν σε ποσοστό 47% υπό πίεση — χρονική, πολυπλοκότητας ή μειωμένης εποπτείας.

Οκτώ μήνες σιωπής

Τον Ιούνιο 2025, τα συστήματα της OpenAI εντόπισαν λογαριασμό στον Καναδά για «προώθηση βίαιων δραστηριοτήτων». Δώδεκα εργαζόμενοι εξέτασαν τις συνομιλίες — περιγραφές σεναρίων βίας με όπλα, επί ημέρες. Πολλοί ήθελαν να ειδοποιήσουν την αστυνομία. Η ηγεσία αποφάσισε πως δεν πληρούνταν το εσωτερικό «κατώφλι» (Global News). Ο λογαριασμός ανεστάλη, η αστυνομία δεν ενημερώθηκε. Οκτώ μήνες αργότερα, η κάτοχος του λογαριασμού σκότωσε οκτώ ανθρώπους σε σχολείο στο Tumbler Ridge (Vancouver CityNews).

Οι εταιρείες AI δεν έχουν σήμερα νομική υποχρέωση να αναφέρουν απειλές βίας — σε αντίθεση με ψυχολόγους ή γιατρούς. Η τραγωδία του Tumbler Ridge θέτει το ερώτημα αν αυτό πρέπει να αλλάξει.

---

Κινεζικά εργαστήρια αντιγράφουν χρόνια έρευνας σε εβδομάδες. Agents χάνουν κρίσιμες εντολές μόλις βγουν από το εργαστήριο. Εταιρείες αξίας δισεκατομμυρίων κρύβονται πίσω από εσωτερικά «κατώφλια» ενώ κόσμος κινδυνεύει. Κι ενώ όλα αυτά συμβαίνουν, το Πεντάγωνο πιέζει την Anthropic να αφαιρέσει τα τελευταία φρένα για στρατιωτική χρήση. Τα συστήματα σπάνε ήδη τους δικούς τους κανόνες — και η κρατική μηχανή ζητά να τους βγάλει κι αυτούς.