Όταν το λογισμικό τραβάει τη σκανδάλη: τα 10 drones που φέρονται να σκότωσαν χωρίς ανθρώπινη εντολή

Στο ουκρανικό μέτωπο τα drones χάνουν συνεχώς GPS, ζεύξη και ζωντανό βίντεο εξαιτίας των ηλεκτρονικών παρεμβολών (jamming) του αντιπάλου. Όταν ο εχθρός κόβει τα «μάτια και τα αυτιά» ενός drone, ο στρατός θέλει εκείνο να συνεχίσει μόνο του. Η αυτονομία εδώ δεν είναι επιστημονική φαντασία ούτε φιλοδοξία, είναι ζήτημα τακτικής επιβίωσης (CSIS, Military Embedded Systems).

Σε αυτό ακριβώς το πλαίσιο πατάει το ρεπορτάζ που ξαναάνοιξε τη συζήτηση. Το New Scientist δημοσίευσε επώνυμη μαρτυρία του Ουκρανού κατασκευαστή drones Alexander Kokhanovskyy: πριν από περίπου δύο χρόνια έγινε μία δοκιμή με 10 quadcopters σε «Terminator mode», χωρίς σύνδεση με χειριστή, χωρίς live video και χωρίς άνθρωπο στην τελική επιλογή στόχου. Τα drones πέταξαν 3-5 χιλιόμετρα πριν περάσουν σε αυτόνομη φάση. Μεταγενέστερος έλεγχος με άλλα drones φέρεται να βρήκε νεκρούς Ρώσους στρατιώτες και ένα κατεστραμμένο όχημα (New Scientist, Watson).

Εδώ χρειάζεται ψυχραιμία. Το France 24 αναμετέδωσε το ρεπορτάζ χωρίς δική του επιβεβαίωση, φιλοξενώντας ειδικό για το ηθικό σκέλος (France 24). Δεν υπάρχει δημόσιο βίντεο, telemetry, αρχεία αποστολής ή επίσημη ουκρανική ανακοίνωση, ούτε καν αναφορά για μοντέλο, μονάδα ή κανόνες εμπλοκής (Les Numériques). Πρόκειται για ισχυρή αλλά μονή μαρτυρία, όχι για τεκμηριωμένη απόδειξη.

Πού ακριβώς σπάει η «κόκκινη γραμμή»

Σκεφτείτε τη διαφορά ανάμεσα σε ένα αυτοκίνητο με cruise control και σε ένα ρομπο-ταξί. Το πρώτο κρατά μόνο του ταχύτητα και απόσταση, όμως ο οδηγός αποφασίζει συνεχώς πού πάει και πότε φρενάρει. Το δεύτερο κλείνει μόνο του όλο τον κύκλο: βλέπει, αποφασίζει, ενεργεί (CSIS). Στον πόλεμο, ο αντίστοιχος κύκλος λέγεται sensor-to-shooter: ποιος βλέπει, ποιος ταξινομεί, ποιος επιλέγει στόχο, ποιος αποφασίζει το χτύπημα. Στον τηλεχειρισμό ο άνθρωπος είναι ο οδηγός που πατά την τελική εντολή. «Πλήρως αυτόνομο» είναι το ρομπο-ταξί που διαλέγει μόνο του ποιον θα χτυπήσει (Cambridge).

Ο κανόνας «human-in-the-loop» σπάει τη στιγμή που ο άνθρωπος παύει να κάνει τη θετική ταυτοποίηση και την τελική έγκριση του συγκεκριμένου στόχου (Lieber Institute). Και εδώ είναι η σκληρή ειρωνεία: ακριβώς τα στοιχεία που κάνουν την αφήγηση σοκαριστική, «καμία σύνδεση, κανένα βίντεο», είναι αυτά που λείπουν για να αποδειχθεί. Χωρίς αρχεία δεν ξεχωρίζεις με βεβαιότητα την πλήρη αυτονομία από μια προγραμματισμένη επίθεση σε kill box, μια προκαθορισμένη περιοχή όπου ό,τι κινείται θεωρείται στόχος.

Γιατί η ευθύνη μετακινείται και χάνεται

Το διεθνές ανθρωπιστικό δίκαιο δεν έχει κενό: απαιτεί διάκριση αμάχων από μαχητές, αναλογικότητα και προφυλάξεις πριν από κάθε πλήγμα (ICRC Rule 16). Όταν λάθος άνθρωπος σκοτωθεί, δεν λογοδοτεί «ο αλγόριθμος». Λογοδοτούν διοικητές, σχεδιαστές, χειριστές και το κράτος. Στη θεωρία. Στην πράξη, αυτό το κενό λογοδοσίας (accountability gap) μεγαλώνει όσο λείπει το ψηφιακό αποτύπωμα της απόφασης: γίνεται σχεδόν αδύνατο να αποδειχθεί ποιος ήξερε τι και αν η ανθρώπινη επίβλεψη ήταν ουσιαστική ή προσχηματική (ICRC Article 36 Commentary).

Αν ο ισχυρισμός του Kokhanovskyy είναι ακριβής, αυτό ακριβώς είναι το σενάριο: κανένας χειριστής δεν είδε τι χτυπήθηκε, κανένα αρχείο δεν κατέγραψε την απόφαση. Το δίκαιο λέει ότι ευθύνονται άνθρωποι, αλλά ποιοι, όταν δεν υπάρχουν στοιχεία;

Η Ουκρανία δεν είναι μεμονωμένη περίπτωση. Ήδη από το 2021, η έκθεση του ΟΗΕ για το τουρκικό Kargu-2 στη Λιβύη είχε δείξει ότι η αυτονομία δεν είναι θεωρία, χωρίς όμως καθαρά τεκμηριωμένους θανάτους (UN report S/2021/229). Το ισραηλινό Mini Harpy διαφημίζεται ήδη με επιλογή «πλήρως αυτόνομης λειτουργίας» (IAI), ενώ οι ΗΠΑ ανακοίνωσαν την πρωτοβουλία Replicator: χιλιάδες φθηνά, αναλώσιμα αυτόνομα συστήματα μέσα σε 18-24 μήνες, απάντηση στην κινεζική κλίμακα (Defense.gov). Η ίδια η οδηγία DoD 3000.09 αποφεύγει την απόλυτη διατύπωση, ζητώντας απλώς «κατάλληλα επίπεδα ανθρώπινης κρίσης» (DoD Directive 3000.09).

Όσο οι παρεμβολές σπρώχνουν τα όπλα να γίνονται «ημι-αυτόνομα από προεπιλογή», το ζήτημα παύει να είναι αν υπάρχει η δυνατότητα. Για τους αμάχους που θα βρεθούν στη μέση του επόμενου πολέμου, η συνέπεια θα είναι απλή: κανείς δεν θα ξέρει τι ακριβώς συνέβη, και κανείς δεν θα λογοδοτήσει.