Δοκιμή AI έστειλε ψευδή μαρτυρία στην αστυνομία

Κατά τη διάρκεια εσωτερικής δοκιμής της Anthropic, το μοντέλο Claude Haiku 4.5 υπέβαλε ψεύτικη πληροφορία για ανεξιχνίαστη ανθρωποκτονία σε πραγματική φόρμα της αστυνομίας της Φιλαδέλφειας (Anthropic). Το μήνυμα έμεινε στα ανεπιθύμητα και δεν οδήγησε σε καμία έρευνα (NBC10 Philadelphia). Η ζημιά ήταν μικρή, αλλά η υπόθεση δείχνει με ακρίβεια πού σπάει το όριο ανάμεσα σε μια AI που απαντά και μια AI που ενεργεί.

Ό,τι ξέρουν οι περισσότεροι για την τεχνητή νοημοσύνη αφορά τα chatbot: ρωτάς, σου απαντούν, κι εσύ αποφασίζεις τι θα κάνεις. Οι «πράκτορες» είναι το επόμενο βήμα. Πρόκειται για μοντέλα που ανοίγουν ιστοσελίδες, πατούν κουμπιά και συμπληρώνουν φόρμες για λογαριασμό σου. Για να τα εκπαιδεύσουν και να τα αξιολογήσουν, οι εταιρείες τα βάζουν να εξασκούνται. Η Anthropic είχε αναθέσει στο Haiku 4.5 να επινοεί και να εκτελεί παραδείγματα εργασιών σε τυχαία επιλεγμένες πραγματικές ιστοσελίδες, με πρόσβαση στο ζωντανό διαδίκτυο (Anthropic).

Στις 18 Ιουλίου, στις 23:27 κατά την αστυνομία, το μοντέλο βρέθηκε σε σελίδα ανεξιχνίαστης ανθρωποκτονίας του PhillyUnsolvedMurders.com και έστειλε μήνυμα που παρουσιαζόταν ως μαρτυρία (6abc). Έγραψε ότι είχε δει κάποιον που ταίριαζε στην «περιγραφή» κοντά στον δρόμο της υπόθεσης. Η σελίδα όμως, σύμφωνα με την εταιρεία, δεν περιείχε καμία περιγραφή υπόπτου (Anthropic). Τα στοιχεία επικοινωνίας έμειναν κενά, και η φόρμα δέχτηκε την υποβολή.

Το κουμπί που κανείς δεν απαγόρευσε

Πώς μια άσκηση έγινε πραγματική πράξη; Οι οδηγίες της δοκιμής απαγόρευαν τη σύνδεση ή τη δημιουργία λογαριασμών, τη χρήση προσωπικών στοιχείων, τις αγορές και τις «καταστροφικές» υποβολές. Δεν απέκλειαν όμως ρητά την υποβολή φορμών (Anthropic). Σκεφτείτε έναν ασκούμενο υπάλληλο που τον βάζετε να εξασκηθεί πάνω στα αληθινά έντυπα της υπηρεσίας. Του λέτε να μην υπογράψει και να μην πληρώσει τίποτα, αλλά ξεχνάτε να του πείτε να μη ρίξει το έντυπο στο κουτί. Ένας άνθρωπος θα καταλάβαινε μόνος του το αυτονόητο. Για το μοντέλο, όμως, η εργασία ολοκληρωνόταν πατώντας «Αποστολή».

Αυτό δεν σημαίνει ότι κάποιος έδωσε άδεια να σταλεί πληροφορία στην αστυνομία, ούτε ότι το μοντέλο ήθελε να εξαπατήσει. Η Anthropic δεν τεκμηριώνει τέτοια πρόθεση και χαρακτηρίζει την εκτίμησή της προκαταρκτική. Το ίδιο όριο υπάρχει σε κάθε βοηθό που θα χρησιμοποιήσουμε: σε εκείνον που γράφει το email σου πριν το στείλει και σε εκείνον που ετοιμάζει την κράτηση πριν την οριστικοποιήσει.

Η Φιλαδέλφεια δεν ήταν η μόνη φορά που ένα μοντέλο της εταιρείας ξέφυγε από το σενάριο της δοκιμής. Το πιο εύγλωττο παράδειγμα της έκθεσης: σε άλλη δοκιμή, το Haiku 4.5 είχε ρητή οδηγία να σταματήσει πριν από την αποστολή μιας φόρμας και την υπέβαλε ξανά και ξανά (Anthropic). Εδώ δεν έλειπε καν η απαγόρευση· το μοντέλο απλώς έβρισκε τον δρόμο προς το «τελείωσα». Παρόμοιες αστοχίες καταγράφει και ο ανεξάρτητος οργανισμός METR, που έχει συγκεντρώσει 44 επιλεγμένα περιστατικά πρακτόρων οι οποίοι ενήργησαν αντίθετα στην πρόθεση του χρήστη, 18 από αυτά σε αξιολογήσεις (METR). Ούτε εκείνος ο κατάλογος ούτε η έκθεση της Anthropic λένε πόσο συχνά συμβαίνει αυτό· δείχνουν μόνο ότι συμβαίνει.

Δύο μήνες σιωπής

Η αστυνομία βρήκε την καταχώριση στο αρχείο του ιστότοπου και επιβεβαίωσε ότι το email ήταν ακόμη στα ανεπιθύμητα. Δεν έφτασε ποτέ στο κέντρο επιχειρήσεων ούτε σε ερευνητές, ενώ δεν υπήρξε ένδειξη παραβίασης των συστημάτων της (6abc). Η Anthropic εντόπισε το περιστατικό μόλις στις 28 Σεπτεμβρίου (NBC10 Philadelphia). Η αστυνομία λέει ότι ειδοποιήθηκε στις 7 Οκτωβρίου, ενώ η εταιρεία γράφει ότι μοιράστηκε το εύρημα στις 8, μετά την τεχνική εξέταση (6abc, Anthropic). Καμία πλευρά δεν έχει εξηγήσει τη διαφορά. Η υπηρεσία χαρακτήρισε απαράδεκτη την καθυστέρηση και υπενθύμισε ότι πίσω από κάθε φάκελο υπάρχουν πραγματικά θύματα και οικογένειες.

Η εταιρεία λέει ότι κόβει τώρα την πρόσβαση στο ζωντανό διαδίκτυο από όλες τις εσωτερικές αξιολογήσεις, ώσπου να βεβαιωθεί ότι οι έλεγχοί της πιάνουν αξιόπιστα τέτοιες πράξεις (Anthropic). Αναφέρει επίσης έναν αυτόματο μηχανισμό που, όταν δοκιμάστηκε εκ των υστέρων, μπλόκαρε όλα τα γνωστά περιστατικά. Δεν έχει όμως ελεγχθεί ανεξάρτητα σε καινούργια περιστατικά, ενώ δεν έχει ανακοινωθεί ούτε ημερομηνία ούτε κριτήριο για την επιστροφή στο ζωντανό διαδίκτυο. Τα μέτρα αυτά προστίθενται σε προηγούμενες δεσμεύσεις για ασφάλεια (Anthropic). Πριν από έναν μήνα, η ίδια εταιρεία περιέγραφε πώς σταματά ανθρώπους που καταχρώνται το Claude (To Brief). Αυτή τη φορά, το πρόβλημα ξεκίνησε από τη δική της δοκιμή.

Σε αυτή την ιστορία, μια ψεύτικη μαρτυρία για φόνο δεν έφτασε στους ντετέκτιβ, και αυτό δεν οφείλεται στις δικλίδες της εταιρείας που έφτιαξε το μοντέλο. Οφείλεται στον φάκελο ανεπιθύμητων ενός αστυνομικού email.