Γιατί το Claude μένει εκτός Πενταγώνου

Το Claude της Anthropic παραμένει εκτός των προμηθειών του Πενταγώνου. Στις 25 Σεπτεμβρίου ομοσπονδιακό εφετείο στην Ουάσιγκτον επικύρωσε τον αποκλεισμό με ψήφους 2 έναντι 1 (Απόφαση εφετείου). Αυτό έγινε έναν μήνα αφότου δικαστήριο της Καλιφόρνιας είχε δικαιώσει την εταιρεία, και οι δύο αποφάσεις δεν αντιφάσκουν. Το σκεπτικό της νέας είναι αποκαλυπτικό: ο κίνδυνος δεν είναι ότι το μοντέλο μπορεί να προδώσει, αλλά ότι μπορεί να αρνηθεί.

Όποιος διάβασε για τη δικαίωση του Αυγούστου (To Brief) θυμάται ότι η δικαστής Rita Lin έκρινε παράνομες τις ενέργειες εναντίον της εταιρείας, βλέποντας σε αυτές αντίποινα για τον δημόσιο λόγο της (Απόφαση Lin). Εκείνη η υπόθεση αφορούσε έναν στρατιωτικό νόμο, όπου ο «κίνδυνος για την εφοδιαστική αλυσίδα» συνδέεται με αντιπάλους και κακόβουλη υπονόμευση. Το Πεντάγωνο όμως είχε χρησιμοποιήσει παράλληλα και δεύτερο εργαλείο, έναν νόμο του 2018 για την ασφάλεια των ομοσπονδιακών αγορών, με τον οποίο απέκλεισε την Anthropic από τις δικές του προμήθειες (Politico). Είναι σαν πόρτα με δύο κλειδαριές: η Καλιφόρνια άνοιξε τη μία, το εφετείο κράτησε κλειδωμένη την άλλη.

Όταν το «όχι» γίνεται ελάττωμα

Φανταστείτε ένα γραφείο μεταφράσεων που κάθε λίγο σάς στέλνει νέο μεταφραστή. Μπορείτε να δοκιμάσετε τον καθένα πριν τον αφήσετε να δουλέψει. Ποια κείμενα θα αρνείται να μεταφράσει, όμως, το έχει αποφασίσει το γραφείο όταν τον εκπαίδευσε, άρα δεν ελέγχετε πλήρως τη δουλειά που αγοράζετε.

Με το Claude ισχύει κάτι αντίστοιχο. Η Anthropic ορίζει, μέσα από την εκπαίδευση και τις ενσωματωμένες δικλείδες, τι θα απαντά και τι θα αρνείται το μοντέλο. Η εταιρεία είπε στο δικαστήριο ότι, όταν το Claude εγκατασταθεί σε απόρρητο στρατιωτικό δίκτυο, δεν μπορεί να συνδεθεί εξ αποστάσεως για να το αλλάξει ή να το κλείσει (Courthouse News). Κάθε επόμενη έκδοση, ωστόσο, φτάνει στο Πεντάγωνο με όρια που αποφάσισε η Anthropic. Το εφετείο έκρινε ότι αυτή η επιρροή αρκεί, χωρίς να βρει κανέναν κρυφό «διακόπτη» (Απόφαση, σσ. 20-23).

Εδώ μπαίνει ο νόμος του 2018. Δεν μιλά μόνο για κατασκόπους και σαμποτέρ. Καλύπτει και τον κίνδυνο να επηρεάσει οποιοσδήποτε τον σχεδιασμό ή τη λειτουργία ενός προϊόντος, ώστε να εμποδιστεί η χρήση του (41 U.S.C. §4713).

Η πλειοψηφία, με εισηγητή τον δικαστή Gregory Katsas, διάβασε τον νόμο ακριβώς έτσι: το Claude μπορεί να αρνηθεί εργασίες που το υπουργείο θεωρεί νόμιμες και αναγκαίες, κάτι που είχε ήδη συμβεί σε κυβερνητικά αιτήματα (Απόφαση). Για τον νόμο, έγραψε, μετρά ο τρόπος που λειτουργεί το προϊόν, όχι το κίνητρο του κατασκευαστή. Γι' αυτό το δικαστήριο δεν χρειάστηκε να αποδώσει στην εταιρεία πρόθεση δολιοφθοράς.

Η δικαστής Karen LeCraft Henderson διαφώνησε. Κατά τη γνώμη της, ο νόμος μιλά για σαμποτάζ και κακόβουλη παρέμβαση, και ανοιχτά δηλωμένοι όροι χρήσης δεν είναι κάτι τέτοιο. Αλλιώς, προειδοποίησε, κάθε διαφωνία για ένα συμβόλαιο μπορεί να μετατραπεί σε ζήτημα εθνικής ασφάλειας (Απόφαση, σσ. 44-51).

Η πλειοψηφία πρόσθεσε ένα κρίσιμο σημείο: το Πεντάγωνο αντέδρασε στην άρνηση ενός συμβατικού όρου, όχι σε όσα είπε δημόσια η εταιρεία. Εκεί βρίσκεται το κλειδί της συνύπαρξης. Η Καλιφόρνια έκρινε αντίποινα για λόγο, ενώ η Ουάσιγκτον έκρινε κίνδυνο προμήθειας.

Η διαμάχη δεν ήταν ποτέ γενική άρνηση της στρατιωτικής AI. Η Anthropic επέτρεπε τον σχεδιασμό οπλικών συστημάτων, την ανάλυση ξένων πληροφοριών και τις επιθετικές κυβερνοεπιχειρήσεις. Εξαιρούσε μόνο τον θανατηφόρο αυτόνομο πόλεμο και τη μαζική παρακολούθηση Αμερικανών, ενώ το Πεντάγωνο ζητούσε άδεια για «κάθε νόμιμη χρήση» (Congressional Research Service). Το εφετείο δεν έκρινε αν αυτές οι δύο χρήσεις είναι νόμιμες ή ασφαλείς. Έκρινε ποιος χαράζει την τελική γραμμή.

Τι ισχύει σήμερα για το Claude

Ο αποκλεισμός αφορά το Πεντάγωνο και τους αναδόχους του όταν εκτελούν έργο του. Δεν ισχύει για ιδιώτες, για επιχειρήσεις ή για ολόκληρη την ομοσπονδιακή κυβέρνηση, και ένας ανάδοχος μπορεί να χρησιμοποιεί το Claude σε άσχετη δουλειά (AP). Στην πράξη η μετακόμιση έχει σχεδόν ολοκληρωθεί. Ο υφυπουργός Άμυνας Emil Michael δήλωσε στις 11 Σεπτεμβρίου ότι περίπου το 90% των απόρρητων εργασιών που έτρεχαν σε Anthropic είχε περάσει σε άλλους παρόχους και ότι η Maven, στρατιωτική πλατφόρμα ανάλυσης πληροφοριών, είχε αποσυνδεθεί από την εταιρεία (DefenseScoop).

Οι Google, OpenAI και xAI έχουν συμφωνίες με όριο έως 200 εκατ. δολάρια η καθεμία, όσο ήταν και το όριο της συμφωνίας της Anthropic (The Intercept). Η Anthropic υποστηρίζει ότι έχασε δισεκατομμύρια σε δουλειά, ισχυρισμός που δεν έχει ελεγχθεί ανεξάρτητα, και εξετάζει νέα προσφυγή (Reuters). Το εφετείο καθυστέρησε την εκτέλεση της απόφασης, ώστε να δοθεί χρόνος για επανεξέταση ή για προσφυγή στο Ανώτατο Δικαστήριο (CNBC). Όποια κι αν είναι η συνέχεια, πρόκειται για την πρώτη ερμηνεία του νόμου του 2018 από εφετείο. Ορίζει πλέον το πλαίσιο για τις προμήθειες AI, αν και κάθε νέος αποκλεισμός θα χρειάζεται τη δική του αιτιολόγηση (Politico).

Μέχρι να μιλήσει ανώτερο δικαστήριο, ισχύει το εξής για το αμερικανικό δίκαιο των προμηθειών: ένα μοντέλο που μπορεί να πει «όχι» στον στρατό μπορεί να χαρακτηριστεί επικίνδυνο προϊόν, όσο ανοιχτά κι αν είχε δηλώσει ο κατασκευαστής του πού ακριβώς θα το πει.