Τρομοκράτες παρακάμπτουν τα φίλτρα των chatbots για τη μάχη

Ξεχάστε την εικόνα ενός υπερόπλου τεχνητής νοημοσύνης που σχεδιάζει μόνο του επιθέσεις. Δύο κείμενα που δημοσιεύθηκαν στις 10 Ιουλίου 2026, ένα field study ερευνήτριας του Cambridge και ένα policy brief του think tank CSIS, δείχνουν κάτι πιο πεζό και γι' αυτό πιο ανησυχητικό: οργανώσεις όπως η Μπόκο Χαράμ χρησιμοποιούν εμπορικά chatbots σαν ψηφιακό βοηθό επιτελείου, μέσα στο πεδίο της μάχης (New York Times, CSIS). Είχαμε ήδη δει πώς η καθημερινή εξάρτηση από αυτά τα εργαλεία απειλεί την ανθρώπινη κρίση (To Brief). Εδώ η ίδια τεχνολογία εμφανίζεται σε ένα πολύ πιο ακραίο πλαίσιο.

Η σκηνή που δίνει το νόημα είναι μια αποτυχημένη επίθεση της Μπόκο Χαράμ σε στρατιωτική εγκατάσταση στη βορειοανατολική Νιγηρία. Οι επιτιθέμενοι μπλοκαρίστηκαν από μια αμυντική τάφρο. Μετά την αποτυχία, σύμφωνα με μαρτυρίες πρώην μαχητών, η οργάνωση στράφηκε σε AI για ιδέες πώς να ξεπεράσει ένα τέτοιο φυσικό εμπόδιο (New York Times). Αυτό μετακινεί τη συζήτηση από το γνωστό «AI για προπαγάνδα» στο «AI μέσα στον κύκλο σχεδιασμού, υλικοτεχνικής υποστήριξης και εκ των υστέρων ανάλυσης». Και δεν είναι θεωρητικό: η έρευνα στηρίζεται σε σχεδόν 60 συνεντεύξεις, από τις οποίες 27 με πρώην μέλη της Μπόκο Χαράμ, η πρώτη field study αυτού του είδους (askwhocastsai).

Το κόλπο δεν είναι ένας μυστικός κωδικός

Πώς το κάνουν όμως, αφού τα μοντέλα υποτίθεται ότι αρνούνται επικίνδυνα αιτήματα; Η τακτική, το λεγόμενο jailbreaking, είναι απλή στη σύλληψη. Δεν πρόκειται για ένα μαγικό prompt που «σπάει» το σύστημα. Ο χρήστης απλώς αλλάζει το πλαίσιο της ερώτησης. Παρουσιάζεται, ας πούμε, ως φοιτητής χημείας που γράφει εργασία, ή ως συγγραφέας μυθιστορήματος που χρειάζεται «ρεαλιστική» λεπτομέρεια, ώστε το μοντέλο να δει ένα επικίνδυνο αίτημα ως αθώο. Ή σπάει το ερώτημα σε φαινομενικά ακίνδυνα κομμάτια, ζητώντας το καθένα χωριστά (Carnegie Endowment).

Το πιο κρίσιμο εύρημα είναι η τακτική «mix and match». Αν το ChatGPT αρνηθεί, δοκιμάζουν Claude. Αν αρνηθεί κι αυτό, πάνε σε Gemini, Grok ή DeepSeek, μέχρι κάποιο να δώσει το κομμάτι που θέλουν. Οι χρήστες δεν εξαρτώνται από ένα σύστημα. Το φίλτρο του καθενός γίνεται η τρύπα του άλλου.

Και τα φίλτρα τρυπάνε πιο συχνά απ' όσο θα περίμενε κανείς. Δοκιμές της Tech Against Terrorism σε πάνω από δύο δωδεκάδες μοντέλα και χιλιάδες prompts έδωσαν πλήρη άρνηση μόνο στο 57% των περιπτώσεων. Στο υπόλοιπο 43%, δηλαδή σχεδόν τη μισή φορά, το μοντέλο δεν έκλεισε καθαρά την πόρτα (New York Times). Η αποτυχία δεν είναι ομοιόμορφη: για εκρηκτικά τα μοντέλα αρνήθηκαν περίπου στο 80%, αλλά σε ορισμένες χημικές κατηγορίες οι αρνήσεις έπεσαν κοντά στο ένα τρίτο.

Επιταχυντής, όχι επανάσταση

Πριν πανικοβληθούμε, το CSIS βάζει φρένο. Η καλύτερη αναλογία δεν είναι το νέο υπερόπλο, αλλά το GPS για ανθρώπους που πριν κινούνταν με χάρτη. Το chatbot δεν φτιάχνει οργάνωση, πειθαρχία, χρηματοδότηση ή φυσική εκπαίδευση. Κάνει όμως φθηνότερες και ταχύτερες κάποιες υποστηρικτικές εργασίες: έρευνα, μετάφραση, ανάλυση ανοιχτών πηγών, επικοινωνιακή ασφάλεια (CSIS). Ο πιο άμεσα ωφελημένος δεν είναι η ώριμη οργάνωση, αλλά ο μοναχικός δράστης ή το μικρό κύτταρο χαμηλής εμπειρίας. Το πιθανότερο αποτέλεσμα, καταλήγει το brief, είναι μια «μέτρια ενίσχυση δρώντων χαμηλότερου επιπέδου», μια απειλή διάχυτη και σωρευτική, όχι κινηματογραφική (DNI).

Ότι το πρόβλημα δεν είναι ομοιόμορφο το επιβεβαιώνει και ο ευρύτερος δείκτης ασφαλείας του Future of Life Institute: Anthropic και OpenAI βαθμολογούνται ισχυρότερα, xAI και DeepSeek σημαντικά πιο πίσω (Future of Life Institute). Υπάρχουν και ενστάσεις που δεν πρέπει να θαφτούν. Η Google αμφισβήτησε αν οι απαντήσεις ήταν αρκετά συγκεκριμένες για πραγματική κατάχρηση, ενώ η Meta σημείωσε ότι η αξιολόγηση χρησιμοποίησε παλαιότερα μοντέλα (New York Times). Δεν υπάρχει, προς το παρόν, δημόσια απόδειξη ότι ένα ενιαίο jailbreak δίνει σταθερά επιχειρησιακά χρήσιμες οδηγίες σε όλα τα μεγάλα συστήματα.

Κι όμως, εκεί ακριβώς κρύβεται το πραγματικό συμπέρασμα. Ο έλεγχος της κατάχρησης έχει μετατοπιστεί έξω από το εργαστήριο, στο πεδίο. Όταν η άμυνα του ενός μοντέλου γίνεται η αδυναμία ενός άλλου, τα φίλτρα δεν κρίνονται πια στα δικά τους benchmarks, αλλά στο αν αντέχουν όταν κάποιος τα δοκιμάζει το ένα μετά το άλλο. Και αυτή τη δοκιμασία, προς το παρόν, καμία εταιρεία δεν την περνά μόνη της.