το λέει το antropic Η εταιρεία απενεργοποίησε δύο μοντέλα τεχνητής νοημοσύνης που κυκλοφόρησε νωρίτερα αυτή την εβδομάδα, τα Claude Fable 5 και Mythos 5, για να συμμορφωθεί με μια οδηγία ελέγχου των εξαγωγών που έλαβε από την κυβέρνηση των ΗΠΑ το απόγευμα της Παρασκευής, επικαλούμενη ανησυχίες για την εθνική ασφάλεια.
Αυτό το άνευ προηγουμένου περιστατικό σηματοδοτεί το τελευταίο σημείο ανάφλεξης μεταξύ της Antropic και της κυβέρνησης Τραμπ. Η εταιρεία είπε ότι η εντολή ζητούσε να τερματιστεί η πρόσβαση σε “όλους τους ξένους υπηκόους, συμπεριλαμβανομένων των ξένων υπαλλήλων της Anthropic, είτε στις Ηνωμένες Πολιτείες είτε στο εξωτερικό”, αλλά αφαίρεσε την πρόσβαση για όλους τους πελάτες για να διασφαλιστεί η συμμόρφωση.
Νωρίτερα φέτος, το Πεντάγωνο του Προέδρου Τραμπ χαρακτήρισε την Anthropic ως «κίνδυνο εφοδιαστικής αλυσίδας» αφού η εταιρεία προσπάθησε να χαράξει τη γραμμή για τον τρόπο με τον οποίο ο στρατός των ΗΠΑ χρησιμοποιεί την τεχνολογία της. Ο χαρακτηρισμός ουσιαστικά απαγόρευε σε κυβερνητικές υπηρεσίες και εργολάβους να χρησιμοποιούν την τεχνολογία της Anthropic. Η Antropic απάντησε καταθέτοντας μήνυση κατά της κυβέρνησης Τραμπ.
Η Anthropic κυκλοφόρησε το Claude Fable 5 στο κοινό την Τρίτη. Αυτή είναι μια έκδοση του μοντέλου Mythos AI της εταιρείας με προστασίες που την εμποδίζουν να απαντά σε ερωτήσεις σχετικά με την κυβερνοασφάλεια, τη βιολογία και τη χημεία. Το μοντέλο τεχνητής νοημοσύνης Mythos Preview έγινε διαθέσιμο σε περιορισμένους χρήστες τον Απρίλιο, εν όψει της δημόσιας κυκλοφορίας που η Anthropic είπε ότι διεξήγαγε σε συνεργασία με την κυβέρνηση των ΗΠΑ. Ο στόχος ήταν να προσφερθεί σε επιχειρήσεις και οργανισμούς η ευκαιρία να χρησιμοποιήσουν τις ισχυρές του δυνατότητες κυβερνοασφάλειας για να ενισχύσουν την άμυνά τους και να διαλύσουν τις ανησυχίες ότι η τεχνολογία θα μπορούσε να χρησιμοποιηθεί κατάχρηση για την ανάπτυξη ισχυρών εργαλείων hacking.
σε ανάρτηση ιστολογίου Η Anthropic ανακοίνωσε την Παρασκευή ότι έλαβε μια επιστολή από την κυβέρνηση των ΗΠΑ στις 5:21 μ.μ. ET. «Η επιστολή δεν παρέχει συγκεκριμένες λεπτομέρειες σχετικά με ανησυχίες για την εθνική ασφάλεια», έγραψε η Antropic.
«Η κατανόησή μας είναι ότι η κυβέρνηση έχει βρει έναν τρόπο να παρακάμψει ή να «σπάσει το jailbreak» το Fable 5», πρόσθεσε η εταιρεία. “Εξετάσαμε μια επίδειξη αυτής της συγκεκριμένης τεχνικής που χρησιμοποιείται για τον εντοπισμό ενός μικρού αριθμού γνωστών δευτερευουσών σημείων ευπάθειας. Αν και όλα αυτά τα τρωτά σημεία φαίνονται σχετικά απλά, διαπιστώσαμε ότι και άλλα διαθέσιμα στο κοινό μοντέλα μπορούν να τα εντοπίσουν επίσης χωρίς την ανάγκη παράκαμψης.”
Η εταιρεία ισχυρίστηκε σε μια ανάρτηση ιστολογίου ότι έχει θεσπίσει ισχυρές διασφαλίσεις για να μειώσει την πιθανότητα εκμετάλλευσης του Claude Fable 5. Η Anthropic υποστήριξε επίσης ότι το jailbreak που ανακάλυψε η κυβέρνηση των ΗΠΑ για το Claude Fable 5 ήταν στενό σε εύρος και δεν θα έκανε τους επιτιθέμενους πιο επικίνδυνους από ό,τι θα ήταν εάν χρησιμοποιούσαν διαφορετικό μοντέλο AI.
«Μέχρι στιγμής, η κυβέρνηση έχει παράσχει μόνο προφορικές αποδείξεις για την πιθανότητα περιορισμένου και μη καθολικού jailbreaking, το οποίο ουσιαστικά απαιτεί από τα μοντέλα να διαβάζουν μια συγκεκριμένη βάση κώδικα για να διορθώσουν ελαττώματα στο λογισμικό», ανέφερε η εταιρεία σε μια ανάρτηση ιστολογίου. «Κατανοούμε ότι ένα πιθανό jailbreak κοινοποιήθηκε με την κυβέρνηση».
Οι εκπρόσωποι του Λευκού Οίκου και του Υπουργείου Εμπορίου των ΗΠΑ δεν απάντησαν αμέσως στα αιτήματα του WIRED για σχολιασμό.
Ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, δήλωσε σε ένα δοκίμιο πολιτικής νωρίτερα αυτή την εβδομάδα ότι ο ίδιος και η εταιρεία υποστηρίζουν μια δίκαιη, δομημένη και διαφανή κυβερνητική διαδικασία για την πρόληψη της κυκλοφορίας μη ασφαλών μοντέλων τεχνητής νοημοσύνης. «Αυτή η ενέργεια δεν συμμορφώνεται με αυτές τις αρχές», υποστήριξε ο Anthropic σε ανάρτηση ιστολογίου της Παρασκευής.