Κινέζοι στρατιωτικοί εκπαίδευσαν AI με απαντήσεις ChatGPT και Claude

Ένα σύστημα αναγνώρισης στόχων σε drone δεν χρειάζεται να «κλέψει» το ChatGPT για να μάθει να σκέφτεται σαν αυτό. Αρκεί να το ρωτήσει αρκετές φορές. Αυτό ακριβώς φαίνεται να έκαναν κινεζικοί στρατιωτικοί φορείς, και είναι ο λόγος που το θέμα αφορά όχι μόνο τον ανταγωνισμό ΗΠΑ και Κίνας, αλλά και το κατά πόσο οι αμερικανικοί έλεγχοι στα τσιπ πιάνουν πραγματικά στόχο.

Το Reuters, εξετάζοντας πάνω από 80 κινεζικές ακαδημαϊκές εργασίες και πατέντες, βρήκε επαναλαμβανόμενη χρήση μιας τεχνικής που λέγεται knowledge distillation (απόσταξη γνώσης): απαντήσεις ισχυρών αμερικανικών μοντέλων, κυρίως του GPT-3.5 της OpenAI και του Claude 3 Haiku της Anthropic, χρησιμοποιήθηκαν για να εκπαιδευτούν μικρότερα, εγχώρια συστήματα (WION, StratNewsGlobal). Έρχεται λίγες μέρες αφότου η ίδια η Anthropic παραδέχτηκε ότι εκδόσεις του Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα τρίτων σε δοκιμές κυβερνοασφάλειας (To Brief). Μόνο που εδώ δεν μιλάμε για παραβίαση, αλλά για κάτι πιο ύπουλο: φαινομενικά νόμιμη χρήση που μεταφέρει ικανότητα.

Τρώει τα πιάτα, δεν κλέβει την κουζίνα

Για να καταλάβουμε γιατί αυτό είναι έξυπνο γεωπολιτικό τέχνασμα, χρειάζεται μία διάκριση. Φαντάσου έναν διάσημο σεφ. Υπάρχουν τρεις τρόποι να αποκτήσεις την τέχνη του. Μπορείς να κλέψεις το τετράδιο με τις συνταγές, δηλαδή τα «weights», τις αριθμητικές παραμέτρους που κάνουν ένα μοντέλο να δουλεύει όπως δουλεύει. Μπορείς να παραγγέλνεις από το εστιατόριο, δηλαδή να έχεις πρόσβαση μέσω API. Ή μπορείς να τρως χιλιάδες πιάτα του, κρατώντας λεπτομερείς σημειώσεις, και μετά να εκπαιδεύεις έναν άλλο μάγειρα να τα μιμείται (IBM, Lawfare).

Το distillation είναι το τρίτο. Το «μαθητευόμενο» μοντέλο δεν αντιγράφει τον εγκέφαλο του «δασκάλου». Μαθαίνει το στυλ κρίσης του, μέσα από τεράστιο όγκο ζευγαριών ερώτησης και απάντησης που μετατρέπονται σε δεδομένα εκπαίδευσης (arXiv). Δεν φεύγει τσιπ, δεν διαρρέει αρχείο, το αρχικό μοντέλο δεν τρέχει ποτέ μέσα στο κινεζικό σύστημα. Φεύγει, όμως, ένα μεγάλο μέρος της χρησιμότητάς του.

Τα παραδείγματα δεν είναι γενικόλογα. Η PLA Unit 96941, μονάδα στρατιωτικών πληροφοριών στο Πεκίνο, φέρεται να χρησιμοποίησε το GPT-3.5 για να συνοψίσει ευαίσθητο στρατιωτικό κώδικα. Πάνω σε αυτές τις περιλήψεις εκπαίδευσε ένα εγχώριο μοντέλο που θα δουλεύει κλειστά, μέσα σε στρατιωτικά δίκτυα (AOL/Reuters). Το National University of Defense Technology συμπίεσε ένα μοντέλο εικόνας ώστε να χωρά πάνω σε drone, για ανάλυση live βίντεο και στόχευση ακόμη και όταν κόβονται οι επικοινωνίες με τον χειριστή (NDTV Profit).

Το ίδιο μοτίβο επιστρέφει και σε φορείς ασφαλείας. Το North University of China αξιοποίησε το Claude 3 Haiku για να παραγάγει συνθετικά δεδομένα σε σύστημα παρακολούθησης social media (Internazionale/Reuters). Η Academy of Military Sciences δοκίμασε ένα μοντέλο αναγνώρισης στόχων σε προσομοιωμένες ναυτικές επιχειρήσεις με drone, πλοία και μη επανδρωμένα υποβρύχια (StratNewsGlobal).

Προσοχή στο τι πραγματικά δείχνει αυτό. Πρόκειται για ισχυρισμούς εργασιών, πατεντών και προσομοιώσεων, όχι για αποδεδειγμένο πλεονέκτημα στο πεδίο. Δεν υπάρχουν δημόσια αρχεία προμηθειών ή ανεξάρτητη επιβεβαίωση επιχειρησιακής ανάπτυξης (Reuters via Yahoo). Το distillation, άλλωστε, δουλεύει καλά σε στενά καθήκοντα και χάνει σε ευρύτητα και απρόβλεπτες συνθήκες (UK Government). Η ακριβής διατύπωση: πειστική τεχνική οδός, περιορισμένη δημόσια απόδειξη πραγματικού πλεονεκτήματος.

Μένει ένα κενό που η ίδια η έρευνα δεν κλείνει. Δεν έχει δημοσιοποιηθεί πώς αποκτήθηκαν οι απαντήσεις: μέσω επίσημου API, web interface, μεταπωλητών ή παράκαμψης γεωγραφικών φραγμών. Η Anthropic δηλώνει ότι δεν παρέχει εμπορική πρόσβαση στην Κίνα (Anthropic), όμως οι πολιτικές αποδεικνύουν τι απαγορεύεται, όχι πώς παρακάμφθηκε.

Κι εκεί βρίσκεται το πραγματικό συμπέρασμα. Η αμερικανική στρατηγική έχει χτιστεί για να φυλά την πόρτα του data center και το χρηματοκιβώτιο με τα weights. Οι έλεγχοι στα τσιπ παραμένουν το πιο καθαρό, ενεργό στρώμα. Ο κανόνας AI Diffusion, που θα επέκτεινε τους ελέγχους από τα τσιπ στα model weights και στην πρόσβαση μέσω cloud, ανακλήθηκε πριν καν εφαρμοστεί (BIS). Απέναντι σε κάποιον που βγαίνει κάθε μέρα με «σημειώσεις από το μάθημα» αντί για κλεμμένο εξοπλισμό, οι περιορισμοί στα μικροτσίπ φυλάνε τη λάθος πόρτα (Just Security).