Λάθος αλγορίθμου σήκωσε αμερικανικά αεροσκάφη κατά κινεζικού πλοίου

Την περασμένη άνοιξη, μέσα στον πόλεμο ΗΠΑ–Ιράν, αμερικανικά αεροσκάφη απογειώθηκαν και ένοπλο προσωπικό ετοιμαζόταν να επιβιβαστεί σε κινεζικό εμπορικό πλοίο στην ανοιχτή θάλασσα. Λίγο πριν την επιχείρηση, αξιωματικοί ξαναδιάβασαν τον φάκελο και τη σταμάτησαν: το πλοίο δεν μετέφερε τα «εξαρτήματα πυρηνικού προγράμματος» που είχαν σημάνει συναγερμό. Τα είχε επινοήσει ένα chatbot (πρόγραμμα συνομιλίας τεχνητής νοημοσύνης). Το περιστατικό το αποκάλυψε χθες το CNN, με τέσσερις ανώνυμες πηγές: ένα μη επαληθευμένο συμπέρασμα αλγορίθμου έφτασε ένα βήμα πριν από ένοπλο επεισόδιο ΗΠΑ–Κίνας (CNN).

Η αλληλουχία είναι ανθρώπινη σε κάθε βήμα. Αναλυτής των ειδικών επιχειρήσεων έδωσε σε ένα chatbot στοιχεία για το δηλωτικό φορτίου του πλοίου (τον επίσημο κατάλογο του τι μεταφέρει), συνδυάζοντας ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων (υποκλοπές επικοινωνιών και εκπομπών). Το εργαλείο χαρακτήρισε το φορτίο ως εξαρτήματα πυρηνικού προγράμματος, και ο ίδιος αναλυτής το ξαναχρησιμοποίησε για να μορφοποιήσει το συμπέρασμα ως τυπική έκθεση πληροφοριών. Η μορφοποίηση του έδωσε θεσμικό κύρος χωρίς ούτε ένα νέο στοιχείο. Η έκθεση κυκλοφόρησε στον στρατό, άλλοι την αξιολόγησαν, άλλοι κινητοποίησαν δυνάμεις. Άνθρωποι, όχι μηχανή, πάτησαν κάθε κουμπί (CNN).

Το φαινόμενο έχει όνομα. Το αμερικανικό ινστιτούτο προτύπων NIST το λέει ψευδή σύνθεση (confabulation): το μοντέλο παράγει περιεχόμενο που ακούγεται βέβαιο αλλά είναι λανθασμένο, μπερδεύει πλοία, παρερμηνεύει τεχνικούς κωδικούς, συνθέτει ένα συμπέρασμα που καμία πηγή δεν στηρίζει (NIST). Κανείς δεν έλεγξε αυτό το συμπέρασμα προτού ντυθεί τη γλώσσα επίσημου εγγράφου. Και μόλις πήρε αυτή τη μορφή, διαβάστηκε όπως κάθε άλλη έκθεση, με την αβεβαιότητα που όφειλε να συνοδεύει ένα αυτόματο αποτέλεσμα ήδη σβησμένη.

Οι κανόνες υπήρχαν, δεν εφαρμόστηκαν

Οι κανόνες υπήρχαν πριν καν εμφανιστεί η γενετική τεχνητή νοημοσύνη. Δύο οδηγίες της αμερικανικής κοινότητας πληροφοριών όριζαν τη διαδικασία: η μία (η ICD 203) απαιτεί αξιολόγηση της αξιοπιστίας των πηγών, σαφή δήλωση της αβεβαιότητας και εξέταση εναλλακτικών εξηγήσεων· η άλλη (η ICD 206) απαιτεί παραπομπές που επιτρέπουν στον αποδέκτη να ανατρέξει στην αρχική πηγή (ODNI). Καμία δεν λειτούργησε.

Η προφανής ερώτηση δεν τέθηκε: μήπως επρόκειτο για συνηθισμένο υλικό διπλής χρήσης, από εκείνα που έχουν και νόμιμες βιομηχανικές εφαρμογές και ξεχωρίζουν από τα πυρηνικά μόνο με έλεγχο εξαγωγέα, προορισμού και τελικού χρήστη (IAEA). Αντ' αυτού λειτούργησε η προκατάληψη αυτοματισμού, η τάση να εμπιστευόμαστε την έξοδο του μηχανήματος επειδή φαίνεται καθαρή και γρήγορη.

Πάνω από το ατομικό λάθος στέκει ένα θεσμικό κενό. Στις 9 Ιανουαρίου 2026 το Πεντάγωνο υιοθέτησε στρατηγική που επιτάχυνε τη χρήση εμπορικών μοντέλων και συστημάτων υποστήριξης αποφάσεων, χωρίς να θεσπίσει στο δημόσιο κείμενό της υποχρεωτικές παραπομπές, δεύτερο έλεγχο ή ενιαία μορφή αρχείων ελέγχου (DoD). Το ίδιο κενό είχε επισημάνει το Γραφείο Λογοδοσίας του Κογκρέσου από το 2023 στα προγράμματα AI (GAO). Τη στιγμή που ο αναλυτής αποδεχόταν το αποτέλεσμα, κανένας δημόσιος κανόνας δεν τον υποχρέωνε να δείξει από πού προήλθε.

Το επεισόδιο έπεσε μέσα στον πόλεμο με το Ιράν, τότε που ο γενικός επιθεωρητής του Πενταγώνου κατέγραφε εξάντληση πυρομαχικών και απώλειες αεροσκαφών (To Brief). Ένας ψευδής συναγερμός παραλίγο να ανοίξει δεύτερο μέτωπο με την Κίνα την ώρα που η Ουάσιγκτον δυσκολευόταν να στηρίξει υλικά το πρώτο. Νομικά το ρίσκο ήταν καθαρό: στην ανοιχτή θάλασσα ισχύει η δικαιοδοσία του κράτους σημαίας, και μια νηοψία (ένοπλη επιβίβαση για έλεγχο του πλοίου) σε κινεζικό πλοίο χωρίς κινεζική συναίνεση θα ήταν από μόνη της αφορμή για άμεση κρίση (UNCLOS).

Η αφήγηση στηρίζεται σε ένα μόνο ρεπορτάζ με ανώνυμες πηγές· το Πεντάγωνο και η Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού δεν σχολίασαν, ενώ παραμένουν άγνωστα το πλοίο, το πραγματικό φορτίο και το μοντέλο που χρησιμοποιήθηκε. Το Πεκίνο δεν αντέδρασε δημόσια, και δεν είναι γνωστό αν γνώριζε καν το περιστατικό.

Αυτό που μένει είναι το κενό. Ο αμερικανικός στρατός βάζει chatbots μέσα στην αλυσίδα των πληροφοριών, αλλά δεν έχει δημοσιοποιήσει πρότυπο που να λέει πώς ελέγχεται η έξοδός τους προτού κινητοποιηθούν αεροσκάφη. Την προηγούμενη φορά, τους σταμάτησε ένας άνθρωπος που ξαναδιάβασε τον φάκελο.