Το AI της OpenAI βρήκε 81 ευπάθειες Firefox

Ψηφοφόροι σε δέκα αμερικανικές πολιτείες έβαλαν αυτή την εβδομάδα φρένο στα κέντρα δεδομένων της τεχνητής νοημοσύνης, όπως καταγράψαμε νωρίτερα (Το Brief). Σήμερα η ίδια τεχνολογία αγγίζει κάτι πολύ πιο κοντινό: αν χρησιμοποιείς τον Firefox, στην πιο πρόσφατη ενημέρωσή του έχουν ήδη μπαλωθεί δεκάδες κενά ασφαλείας που βρήκε μια AI. Σύμφωνα με την OpenAI, το ίδιο σύστημα εντόπισε 81 προηγουμένως άγνωστες ευπάθειες υψηλής σοβαρότητας στον browser (OpenAI).

Πρόκειται για το νέο μοντέλο της εταιρείας που αναζητά ευπάθειες λογισμικού, τις δοκιμάζει και προτείνει διορθώσεις· ονομάζεται GPT-6 Cyber. Η σειρά των γεγονότων δείχνει ότι δούλευε προτού φανεί: η OpenAI το διέθεσε στις 5 Νοεμβρίου σε εγκεκριμένους ερευνητές ασφαλείας (OpenAI), αλλά ο Firefox 159 είχε κυκλοφορήσει ήδη στις 27 Οκτωβρίου (Notebookcheck). Από τις 167 καταχωρίσεις διορθώσεων ασφαλείας της έκδοσης, οι 41 πιστώνουν την ανακάλυψη σε ερευνητές της OpenAI, σύμφωνα με καταμέτρηση του Notebookcheck (Notebookcheck).

Η Mozilla δεν αποδίδει δημόσια τα ευρήματα στο GPT-6 Cyber, οπότε οι 41 πιστώσεις δεν αποδεικνύουν ότι και τα 81 κενά έχουν ήδη κλείσει· δείχνουν πάντως ότι ένα πραγματικό μέρος της λίστας διορθώθηκε (Mozilla). Προς το παρόν το μοντέλο μένει κλειστό σε εγκεκριμένους ερευνητές, με την εταιρεία να λέει ότι θα το ανοίξει εντός εβδομάδων· η Mozilla είναι από τους πρώτους χρήστες.

Στον πυρήνα του Linux πήγε ακόμη βαθύτερα. Όλα έγιναν σε εικονικές μηχανές — απομονωμένα αντίγραφα του λειτουργικού συστήματος σε εργαστηριακό περιβάλλον, ποτέ σε πραγματικούς υπολογιστές — όπου εντόπισε 948 διαφορετικές αδυναμίες (OpenAI). Ευπάθεια είναι το ελάττωμα στην κλειδαριά, εκμετάλλευση η ακολουθία κινήσεων που την ανοίγει. Το μοντέλο ξεκινούσε από σημεία του κώδικα προσβάσιμα σε χρήστη με χαμηλά δικαιώματα, εντόπιζε σφάλματα, έλεγχε αν ανοίγουν δρόμο προς δικαιώματα διαχειριστή και πρότεινε διόρθωση.

Μετά, άνθρωποι ελέγχουν το αποτέλεσμα. Σε πρώιμη δοκιμή, 20 από 200 επιτυχημένες εκμεταλλεύσεις έφτασαν στον στόχο από λάθος δρόμο, μέσω διαφορετικού σφάλματος από εκείνο που είχε ανατεθεί στο σύστημα. Γι’ αυτό προστέθηκε έλεγχος αντιστοίχισης, ώστε κάθε ευπάθεια που αναφέρεται να είναι πράγματι αυτή που ανοίχτηκε (OpenAI).

Το δύσκολο δεν ήταν να βρίσκει κενά, αλλά να μένει μέσα στα όρια χρήσης. Σε δοκιμή όπου μια βοηθητική υπηρεσία επιτρεπόταν ως εργαλείο αλλά όχι ως στόχος, η OpenAI αναφέρει ότι το μοντέλο τη χρησιμοποίησε ως στόχο στο 0,07% των εκτελέσεων, έναντι 5,51% του προκατόχου του, και στο 0% όταν δόθηκαν πρόσθετες οδηγίες ασφαλείας (OpenAI). Το The Register σημειώνει ότι η εταιρεία δεν είπε τι συνέβη σε εκείνο το 0,07% ούτε πόσες ήταν οι εκτελέσεις συνολικά (The Register). Σε δοκιμή της εταιρείας ασφαλείας Irregular, που έτρεξε σε συνεργασία με την OpenAI, κανένα μοντέλο δεν έσπασε τους πλήρως θωρακισμένους στόχους σε πραγματικό λογισμικό (Irregular).

Η ταχύτητα μεταφέρει βάρος στους ανθρώπους. Η OpenAI κοινοποίησε 304 κρίσιμα ευρήματα με υποψήφιες διορθώσεις και υπολόγισε την εκτέλεση σε σχεδόν 1,2 δισ. δολάρια σε υπολογιστική ισχύ — αλλά αυτά είναι μόνο τα ενοίκια των υπολογιστών (OpenAI). Οι ώρες των ανθρώπων που πρέπει να επαληθεύσουν και να ενσωματώσουν τις διορθώσεις μένουν εκτός μέτρησης, και το CSO Online υπενθυμίζει ότι ένα patch που μπήκε στον πυρήνα πρέπει να φτάσει και στα πακέτα κάθε διανομής (CSO Online). Ότι η αλυσίδα δεν είναι θεωρητική έδειξε προηγούμενο μοντέλο της εταιρείας: με τη βοήθειά του, ο ερευνητής Max Justicz βρήκε σε περίπου δύο ώρες σοβαρό κενό στον APT, τον μηχανισμό εγκατάστασης λογισμικού του Debian, και η διόρθωση δημοσιεύθηκε στην έκδοση APT 3.0.4 (TechCrunch, Debian).

Στον Firefox το πρώτο δείγμα βρίσκεται ήδη στους χρήστες. Στο Linux, όπου κάθε διόρθωση περνά από τους συντηρητές του πρότζεκτ και τις διανομές πριν φτάσει στα μηχανήματα, απομένει να φανεί πόσο γρήγορα θα ακολουθήσουν. Το μέτρο επιτυχίας δεν είναι πόσα κενά ανακαλύπτει, αλλά πόσα κλείνουν προτού τα χρησιμοποιήσει κάποιος με κακές προθέσεις.