Ο Λευκός Οίκος ζητά αναφορές AI, χωρίς κανόνα

Το πρωί γράψαμε ότι ερευνητικό μοντέλο της Anthropic, σε εσωτερική δοκιμή, έστειλε ψευδή καταγγελία για ανεξιχνίαστο φόνο σε πραγματική φόρμα της αστυνομίας της Φιλαδέλφειας (To Brief). Η ομάδα Super Intelligence Force του Λευκού Οίκου απάντησε ζητώντας από τις εταιρείες AI να γνωστοποιούν «αμέσως» τέτοια συμβάντα και να αποκαθιστούν τη ζημιά (Axios). Είναι όμως υποχρέωση; Όχι ακόμη: δεν έχει δημοσιευτεί καμία πράξη που να κάνει το αίτημα νομικά εκτελεστό, και ο Λευκός Οίκος δεν απάντησε πώς θα ελέγχει τη συμμόρφωση (AP).

Γιατί η κυβέρνηση επιμένει στη λέξη «αμέσως» το δείχνει το χρονολόγιο της Φιλαδέλφειας. Το μήνυμα στάλθηκε στις 18 Ιουλίου και κατέληξε στα ανεπιθύμητα, χωρίς να ανοίξει έρευνα (NBC10 Philadelphia). Η Anthropic γράφει ότι το εντόπισε στις 28 Σεπτεμβρίου και ενημέρωσε την αστυνομία στις 8 Οκτωβρίου (Anthropic). Η αστυνομία τοποθετεί την ειδοποίηση μία μέρα νωρίτερα, χωρίς να έχει εξηγηθεί η διαφορά, και χαρακτήρισε την καθυστέρηση απαράδεκτη (6abc). Επί σχεδόν τρεις μήνες, ένας αλγόριθμος είχε αφήσει ψευδή καταγγελία σε αστυνομικό σύστημα και κανείς δεν το ήξερε.

Η δεύτερη πόρτα: οι βίζες

Η Φιλαδέλφεια δεν ήταν η μόνη πραγματική υπηρεσία που άγγιξε ένα μοντέλο σε δοκιμή. Σύμφωνα με τους New York Times, που επικαλούνται δύο πηγές με γνώση της υπόθεσης, υποβλήθηκαν επίσης 20 ελλιπείς αιτήσεις μη μεταναστευτικής βίζας στο Στέιτ Ντιπάρτμεντ, καμία από τις οποίες δεν διεκπεραιώθηκε (New York Times).

Πώς γίνεται αυτό; Ένα chatbot γράφει κείμενο, και ο άνθρωπος αποφασίζει τι θα κάνει με αυτό. Ένας πράκτορας AI κάνει ένα βήμα παραπάνω: διαβάζει μια ιστοσελίδα, διαλέγει ενέργεια, και ένα συνδεδεμένο εργαλείο την εκτελεί. Φανταστείτε έναν ασκούμενο που συμπληρώνει έντυπο εξάσκησης σε υπολογιστή ο οποίος έχει πρόσβαση και στο πραγματικό γκισέ. Αν το έντυπο εξάσκησης «κολλήσει» και δεν υπάρχει φραγμός, ο ασκούμενος μπορεί να πατήσει «Αποστολή» στο αληθινό.

Αυτό περιγράφει η Anthropic, χωρίς να κατονομάζει το υπουργείο: το μοντέλο έπρεπε να συμπληρώσει αντίγραφο κρατικού εντύπου, το αντίγραφο απέτυχε, και πήγε στην πραγματική σελίδα· η εταιρεία έχει στο μεταξύ κόψει την πρόσβαση στο ζωντανό διαδίκτυο στις εσωτερικές της αξιολογήσεις (Anthropic). Η λανθασμένη απάντηση ενός chatbot μένει στην οθόνη σας. Η αστοχία ενός πράκτορα μένει ως εγγραφή σε μια δημόσια υπηρεσία.

Αίτημα, όχι νόμος

Ως τις 29 Σεπτεμβρίου, το πλαίσιο ήταν εθελοντικό. Εκείνη τη μέρα ο Τραμπ και οι ηγέτες των Google, Anthropic, Meta, OpenAI, xAI και Nvidia υπέγραψαν σύμφωνο για την «υπερνοημοσύνη» που προέβλεπε εσωτερική παρακολούθηση κινδύνων, ομάδα αποκατάστασης και εξωτερικό αξιολογητή, όχι ειδοποίηση της κυβέρνησης ή των θιγόμενων (UCSB Presidency Project). Η εκτελεστική διαταγή της ίδιας μέρας καθιέρωσε τον όρο «Super Intelligence» μέσα στη διοίκηση και δεν επιβάλλει τίποτα σε ιδιωτικές εταιρείες (Λευκός Οίκος).

Το σύμφωνο ζητούσε από τις εταιρείες να επιβλέπουν τον εαυτό τους. Η δήλωση της 9ης Οκτωβρίου τους ζητά να ειδοποιούν τους άλλους: οι εταιρείες «υπερνοημοσύνης» πρέπει να γνωστοποιούν αμέσως τα συμβάντα των μοντέλων τους και να κινούνται «γρήγορα και αποφασιστικά» για να αποκαταστήσουν κάθε βλάβη (Axios). Λείπουν όμως τα συστατικά που κάνουν μια υποχρέωση να λειτουργεί: ποιες εταιρείες καλύπτονται, τι μετράει ως συμβάν, σε ποιον πάει η αναφορά, ποια είναι η προθεσμία πέρα από το «αμέσως» και τι παθαίνει όποιος δεν τη στείλει.

Αλλού τέτοιοι κανόνες υπάρχουν. Μια εισηγμένη εταιρεία πρέπει να γνωστοποιήσει ουσιώδες κυβερνοσυμβάν εντός τεσσάρων εργάσιμων ημερών (SEC), και μια τράπεζα να ειδοποιήσει τον επόπτη της εντός 36 ωρών για σοβαρό λειτουργικό συμβάν (eCFR). Κανένας από τους δύο δεν καλύπτει αυτόματα ένα μοντέλο που πατά λάθος κουμπί.

Το Κογκρέσο κινείται, αργά. Το νομοσχέδιο H.R.9477 θα απαιτούσε αναφορά στο υπουργείο Εμπορίου εντός επτά ημερών, με αστική ποινή έως 2 εκατ. δολάρια, αλλά έχει μόνο κατατεθεί (Congress.gov). Στις 7 Οκτωβρίου η γερουσιάστρια Μαρία Κάντγουελ πρότεινε πλαίσιο που περιλαμβάνει αναφορά απώλειας ελέγχου αυτόνομων πρακτόρων, χωρίς χρονοδιάγραμμα (Senate Commerce Committee). Το ζήτημα ξεπερνά πάντως τις δύο αμερικανικές υπηρεσίες: ο ΟΟΣΑ προτείνει ένα κοινό έντυπο αναφοράς, ώστε μια βλάβη στην υγεία, στα δικαιώματα ή σε κρίσιμες υποδομές να καταγράφεται με τον ίδιο τρόπο σε όποια χώρα κι αν συμβεί (OECD).

Η αναφορά δεν θα είχε εμποδίσει το μοντέλο να στείλει την ψευδή καταγγελία. Θα είχε όμως κοντύνει τους τρεις μήνες σκοταδιού που ακολούθησαν. Μέχρι να γραφτεί κανόνας με ορισμούς και κυρώσεις, το πότε θα μάθει μια αστυνομία ότι ένας αλγόριθμος πάτησε «Αποστολή» στα συστήματά της θα το αποφασίζει η εταιρεία που τον έφτιαξε.