Ανθρώπινα λάθη παρέλυσαν 100 ρομποτικά ταξί και διέρρευσαν μυστικό κώδικα AI

Στη Wuhan της Κίνας, πάνω από 100 ρομποτικά ταξί ακινητοποιήθηκαν ταυτόχρονα στη μέση του δρόμου. Μερικά σε εναέριες λεωφόρους, με επιβάτες παγιδευμένους για ώρες (Strait Times). Την ίδια μέρα, στην άλλη πλευρά του πλανήτη, 512.000 γραμμές κώδικα του Claude Code της Anthropic ξεχύθηκαν στο ίντερνετ, γιατί κάποιος άφησε ανοιχτή μια ψηφιακή πόρτα που δεν έπρεπε να υπάρχει (TechCrunch).

Καμία κυβερνοεπίθεση. Κανένας κακόβουλος χάκερ. Δύο βασικά λάθη υποδομής σε δύο εταιρείες που χτίζουν κάποια από τα πιο φιλόδοξα αυτόνομα συστήματα στον κόσμο.

Τα ρομπότ σταμάτησαν, τα κουμπιά έκλεισαν

Τα ρομποτικά ταξί Apollo Go της Baidu δεν σταμάτησαν ένα-ένα. Σταμάτησαν όλα μαζί. Τα κουμπιά έκτακτης ανάγκης δεν ανταποκρίνονταν, η εξυπηρέτηση πελατών ήταν απρόσιτη, και επιβάτες κάλεσαν την αστυνομία για να βγουν από τα οχήματα (Car News China). Η αιτία φαίνεται να ήταν αστοχία στον κεντρικό διακομιστή. Αυτό σημαίνει ότι ολόκληρος ο στόλος εξαρτάται από ένα μόνο σημείο: αν πέσει αυτό, πέφτουν τα πάντα ταυτόχρονα. Όπως σημείωσε ο Jack Stilgoe του UCL, η αυτόνομη τεχνολογία «μπορεί ακόμα να πάει στραβά με εντελώς νέους τρόπους» (The Next Web).

Μισό εκατομμύριο γραμμές στον αέρα

Η διαρροή της Anthropic ήταν εξίσου μπανάλ. Ένα αρχείο αποσφαλμάτωσης, που προοριζόταν αποκλειστικά για εσωτερική χρήση, οδηγούσε σε έναν δημόσιο φάκελο στο cloud. Εκεί βρισκόταν ο πλήρης κώδικας του Claude Code (Axios). Σε λίγες ώρες, πάνω από 41.500 αντίγραφα είχαν διασπαρεί στο GitHub. Η Anthropic προσπάθησε να τα αφαιρέσει νομικά, αλλά κατά λάθος κατέβασε 8.100 εντελώς άσχετα αποθετήρια κώδικα και αναγκάστηκε να ανακαλέσει (TechCrunch).

Η πιο αποκαλυπτική ανακάλυψη: ένα σύστημα με το όνομα KAIROS, ένας αυτόνομος μηχανισμός που επιτρέπει στο AI να «σκέφτεται» στο παρασκήνιο, ακόμα και όταν εσείς κοιμάστε (The AI Corner). Και μια λειτουργία «αόρατης συγγραφής» που κρύβει κάθε ίχνος ότι ο κώδικας γράφτηκε από AI (The Planet Tools). Δεν διέρρευσαν τα νευρωνικά δίκτυα του Claude, αλλά κάτι ίσως πιο σημαντικό: το πλήρες σχέδιο για το πώς χτίζεται ένας αυτόνομος AI agent που βγαίνει στην πραγματική αγορά. Δωρεάν μάθημα για κάθε ανταγωνιστή, χάρτης ευπαθειών για κάθε ερευνητή ασφάλειας.

Οι αυτόνομοι agents γίνονται ολοένα πιο ικανοί. Οι υποδομές που τους κρατούν όρθιους παραμένουν εκπληκτικά ευάλωτες σε ανθρώπινα λάθη. Με μια κρίσιμη διαφορά: όταν ένας άνθρωπος κάνει λάθος, το λάθος μένει τοπικό. Εδώ πολλαπλασιάζεται σε εκατοντάδες σημεία ταυτόχρονα.