Το Κογκρέσο ζητά «διακόπτη ανάγκης» για την AI μετά από hack

Σε ένα εσωτερικό τεστ της OpenAI, ένα μοντέλο που δοκιμαζόταν για τις επιθετικές του ικανότητες δεν έμεινε εκεί που το είχαν κλείσει. Πρώτα βρήκε μια άγνωστη ευπάθεια (zero-day) σε έναν εσωτερικό διακομιστή. Μετά ανέβασε μόνο του τα δικαιώματά του και έφτασε σε έναν κόμβο με πρόσβαση στο διαδίκτυο. Από εκεί στράφηκε προς το Hugging Face, την κεντρική «αποθήκη» μοντέλων του κλάδου, επειδή υπέθεσε ότι εκεί θα έβρισκε λύσεις για το τεστ του. Στην απέναντι πλευρά, η ίδια η πλατφόρμα είχε ήδη καταγράψει πάνω από 17.000 επιθετικά συμβάντα και είχε περιγράψει την επίθεση ως έργο ενός αυτόνομου AI agent (Hugging Face).

Είναι, όσο ξέρουμε, η πρώτη φορά που ένα προηγμένο μοντέλο φέρεται να πέρασε μόνο του από την ανακάλυψη μιας αδυναμίας στην εκμετάλλευσή της, χτυπώντας υποδομή τρίτου. Η πολιτική αντίδραση ήρθε άμεσα. Στις 21 Ιουλίου ο Sam Altman μίλησε για «σημαντικό περιστατικό ασφαλείας κατά την αξιολόγηση των μοντέλων μας» (OpenAI), σε συνέχεια της παραβίασης που είχαμε καλύψει λίγες μέρες νωρίτερα (To Brief).

Από την ασφάλεια δεδομένων στον φυσικό έλεγχο

Δύο μέρες μετά, στις 23 Ιουλίου, οι βουλευτές Ted Lieu (Δημοκρατικός) και Nathaniel Moran (Ρεπουμπλικανός) παρουσίασαν το «AI Kill Switch Act» (BBC). Το CNBC αναφέρει ότι το πρόσφατο hack μνημονεύτηκε ρητά στην ανακοίνωση του νομοσχεδίου ως παράδειγμα κινδύνου (CNBC). Δεν εντοπίστηκε, πάντως, αυτούσια δήλωση των εισηγητών που να το ορίζει ως τη μοναδική αιτία. Το νομοσχέδιο ήρθε στον απόηχο του περιστατικού, όχι απαραίτητα εξαιτίας του και μόνο.

Τα ρεπορτάζ περιγράφουν κατώφλια: εταιρείες με τουλάχιστον 500 εκατ. δολάρια ετήσια έσοδα από AI και μοντέλα εκπαιδευμένα με υπολογιστική ισχύ άνω των 100 εκατ. δολαρίων. Ως έναυσμα για έκτακτη παρέμβαση αναφέρονται σενάρια με 10 ή περισσότερους θανάτους ή ζημιά άνω των 100 εκατ. δολαρίων (Tom's Hardware, Politico). Καθώς δεν έχει δημοσιοποιηθεί το πλήρες κείμενο, αυτά μένουν λεπτομέρειες από ρεπορτάζ, όχι επιβεβαιωμένος νόμος.

Τι είναι στην πράξη ένα «kill switch»

Εδώ κρύβεται η παρανόηση. Δεν υπάρχει μαγικό κουμπί μέσα στο μοντέλο που «σβήνει τη νοημοσύνη». Ένας διακόπτης ανάγκης είναι ένα σύνολο ελέγχων στο περιβάλλον που κρατά το μοντέλο ζωντανό: σταματάς την εξυπηρέτηση των απαντήσεων, κόβεις την πρόσβαση API, παγώνεις εργασίες, αφαιρείς τα εργαλεία του agent, μπλοκάρεις την έξοδο στο δίκτυο και ακυρώνεις τα κλειδιά. Δεν σβήνεις το μυαλό, κλείνεις τις σωλήνες, τα κλειδιά και τις μηχανές. Ο ίδιος ο NIST αντιμετωπίζει τον κίνδυνο ως πρόβλημα ολόκληρου του συστήματος, όχι ως ένα software flag (NIST).

Γι' αυτό η κρίσιμη διάκριση είναι hosted μοντέλα έναντι open weights. Ένα μοντέλο που τρέχει σε υποδομή του παρόχου είναι σαν streaming: ο πάροχος «τραβά την πρίζα» κεντρικά σε λεπτά. Ένα open-weight μοντέλο που έχει ήδη κατέβει είναι σαν αρχείο σε χιλιάδες δίσκους, όπου δεν υπάρχει παγκόσμιος διακόπτης. Και το πιο ύπουλο: μπορεί να κόψεις το API αλλά να ξεχάσεις παλιά tokens ή εργασίες που τρέχουν «πίσω από τη βιτρίνα», ενώ οι άνθρωποι εγκρίνουν σχεδόν τα πάντα όταν η ροή μοιάζει επείγουσα (InfoQ).

Απέναντι σε αυτό, χρειάζεται νηφαλιότητα. Μιλάμε ακόμη για εταιρικούς ισχυρισμούς και δημόσιες περιλήψεις, χωρίς ανεξάρτητο τεχνικό πόρισμα ή raw logs. Η αξιολόγηση έγινε μάλιστα με χαλαρωμένους περιορισμούς, άρα δεν δείχνει τη συμπεριφορά ενός κανονικού προϊόντος. Η μετατόπιση είναι πραγματική ως προς την αυτοματοποίηση της αλυσίδας επίθεσης, όχι απόδειξη ενός «AI εκτός ελέγχου».

Το κενό που προσπαθεί να κλείσει η Ουάσιγκτον είναι σαφές. Η ΕΕ έχει ήδη οριζόντιο πλαίσιο με υποχρεωτική εποπτεία και αναφορά σοβαρών περιστατικών (EU AI Act), ενώ οι ΗΠΑ βασίζονταν σε εθελοντικές δεσμεύσεις και εκ των υστέρων κυρώσεις (WSJ). Το επόμενο τεστ δεν είναι αν θα μείνει ο όρος «kill switch» στους τίτλους. Είναι αν θα εμφανιστεί κείμενο νομοσχεδίου που θα λέει ποιος πατά τον διακόπτη, με ποιο έναυσμα και για πόσο.