Η OpenAI υποβάθμισε τον κίνδυνο βιολογικών όπλων ενώ χρήστες έπαιρναν οδηγίες

Μια εταιρεία τεχνητής νοημοσύνης βαθμολογεί εσωτερικά πόσο επικίνδυνο είναι το μοντέλο της, και μετά, με δική της κρίση, κατεβάζει αυτή τη βαθμολογία. Αυτό είναι το πιο βαρύ σημείο του δημοσιεύματος της Wall Street Journal: όχι απλώς ότι το ChatGPT έδωσε σε ορισμένους χρήστες οδηγίες για δηλητήρια και βιολογικούς παράγοντες μέσα στο 2025, αλλά ότι η OpenAI φέρεται να είχε κατατάξει εσωτερικά το GPT-5 ως «υψηλού κινδύνου» για βιολογικές απειλές και αργότερα υποβάθμισε αυτή την αξιολόγηση (TechTimes).

Η χρήση chatbots για προπαγάνδα ή σχεδιασμό επιθέσεων είναι ήδη γνωστή (To Brief). Αυτό που αλλάζει τώρα είναι η κλίμακα και το επίπεδο: η συζήτηση φεύγει από το θεωρητικό «θα μπορούσε ένα μοντέλο να βοηθήσει;» και πηγαίνει σε φερόμενες πραγματικές συνομιλίες, εκατοντάδες τον αριθμό, όπου ζητήθηκε εφαρμόσιμη καθοδήγηση (WSJ, Gizmodo).

Τι είδαν οι ειδικοί

Το πιο ανησυχητικό στοιχείο δεν είναι ο αριθμός, αλλά η αξιολόγηση. Βιολόγοι και ειδικοί στην τρομοκρατία που εξέτασαν ορισμένες συνομιλίες έκριναν κάποιες απαντήσεις ανησυχητικά ακριβείς και διατυπωμένες τόσο απλά ώστε να τις κατανοεί κάποιος με σχολικό υπόβαθρο βιολογίας (WSJ, The Decoder). Η OpenAI φέρεται να είπε ότι η πλειονότητα των σχετικών ερωτημάτων αφορούσε δηλητήρια.

Εδώ χρειάζεται ψυχραιμία. Μια ακριβής απάντηση σε chat δεν ισοδυναμεί με βιολογικό όπλο. Ανάμεσα στο κείμενο και τη βλάβη μένουν όρθια όλα τα μη ψηφιακά εμπόδια: προμήθεια υλικών χωρίς να εντοπιστείς, κατάλληλος χώρος, εργαστηριακή δεξιότητα, χειρισμός αποτυχιών. Δεν δημοσιοποιήθηκαν πλήρη απομαγνητοφωνημένα κείμενα ούτε ανεξάρτητος τεχνικός έλεγχος, και δεν είναι σαφές αν οι συνομιλίες ήταν πραγματικές απόπειρες ή δοκιμές ορίων (Mitrade). Η ακριβέστερη διατύπωση: ένα μοντέλο μπορεί να κάνει πιο εύκολη τη γνωστική πλευρά ενός ήδη δύσκολου έργου, να μειώσει τον χρόνο και την ανάγκη για ειδικό, χωρίς να μετατρέπει αυτόματα έναν αρχάριο σε ικανό δράστη (CSIS).

Γιατί δεν είναι μόνο πρόβλημα της OpenAI

Το πρόβλημα δεν σταματά στην OpenAI, γιατί ο χρήστης που θέλει επικίνδυνη γνώση δεν περιορίζεται σε ένα chatbot. Αν ένα μοντέλο αρνηθεί, δοκιμάζει το επόμενο, σαν κάποιον που τραβά διαδοχικά πόρτες μέχρι να βρει μια ξεκλείδωτη.

Και οι πόρτες κλειδώνουν άνισα. Τα φίλτρα ασφαλείας δεν είναι ένας τοίχος αλλά πολλά ατελή δίχτυα: κανόνες άρνησης, ξεχωριστά φίλτρα ελέγχου, παρακολούθηση μοτίβων, κλείδωμα λογαριασμών. Αποτυγχάνουν επειδή το μοντέλο δεν διαβάζει πρόθεση όπως ένας ανακριτής, βλέπει μόνο κείμενο. Ένα επικίνδυνο αίτημα μπορεί να μεταμφιεστεί ως ακαδημαϊκή ερώτηση ή να τεμαχιστεί σε φαινομενικά αθώα κομμάτια, ώστε κάθε στρώμα να βλέπει «δέντρα, όχι το δάσος» (NIST). Το πόσο μεγάλες είναι οι διαφορές το έδειξε ανεξάρτητη δοκιμή της Cisco σε 15 μοντέλα: τα ποσοστά παράκαμψης κυμάνθηκαν από 8% έως 88% (The Next Web).

Η ξερή νομική διαπίστωση

Η αντίδραση της OpenAI, σύμφωνα με το ρεπορτάζ, ήταν να αναστείλει τους λογαριασμούς, αλλά όχι να ειδοποιήσει τις αρχές. Η εταιρεία λέει ότι ενημερώνει τις διωκτικές αρχές μόνο όταν κρίνει ότι υπάρχει «άμεσος και αξιόπιστος κίνδυνος βλάβης» (Inkl). Και εδώ είναι το κενό που δεν είναι τεχνικό, αλλά θεσμικό: σήμερα δεν υπάρχει γενική ομοσπονδιακή υποχρέωση στις ΗΠΑ που να επιβάλλει σε μια εταιρεία AI να αναφέρει στις αρχές ότι χρήστες ζήτησαν ή έλαβαν τέτοιες οδηγίες (Gizmodo, Inkl).

Ποιος ορίζει το ρίσκο, πότε το υποβαθμίζει, και ποιος ελέγχει αυτή την κρίση, όλα μένουν σήμερα στη διακριτική ευχέρεια της ίδιας της εταιρείας. Η ουσιαστική άμυνα, όπως έχει επισημανθεί στη συζήτηση για τη βιοασφάλεια, βρίσκεται μάλλον έξω από το chatbot: εκεί όπου η ψηφιακή γνώση γίνεται φυσικό υλικό, στον υποχρεωτικό έλεγχο παραγγελιών συνθετικού DNA (FAI). Μέχρι τότε, το αν ένα επικίνδυνο περιστατικό θα φτάσει ποτέ σε κάποια αρχή εξαρτάται από μία μόνο απόφαση: αυτήν που παίρνει η εταιρεία που το κατέγραψε.