Αυτό γίνεται για να διασφαλιστεί η συμμόρφωση με μια κυβερνητική οδηγία που αναφέρει ανησυχίες για την εθνική ασφάλεια.
Anthroic έχει ανάπηρος Όλοι οι πελάτες της έχουν πρόσβαση στο Fable 5 και στο Mythos 5 για να διασφαλίσουν τη συμμόρφωση με μια παραγγελία που έλαβε από την κυβέρνηση την Παρασκευή, 12 Ιουνίου. Όλα τα άλλα μοντέλα και το cloud chatbot του δεν επηρεάζονται. Η εταιρεία ανέφερε στην ανακοίνωσή της ότι η κυβέρνηση των ΗΠΑ ήθελε να αναστείλει την πρόσβαση στα μοντέλα τεχνητής νοημοσύνης που κυκλοφόρησε πρόσφατα σε όλους τους ξένους υπηκόους, είτε βρίσκονται εντός είτε εκτός ΗΠΑ, ακόμη και αν είναι ανθρώπινοι υπάλληλοι, επικαλούμενη ανησυχίες για την εθνική ασφάλεια.
Αν και η κυβέρνηση των ΗΠΑ δεν διευκρίνισε αυτές τις ανησυχίες, η Anthropic πιστεύει ότι αυτό οφείλεται στο ότι η κυβέρνηση άκουσε για μια μέθοδο jailbreak του Fable 5. Η εταιρεία μόλις κυκλοφόρησε το μοντέλο Fable AI, σχεδιασμένο για να φέρει πολλές από τις ικανότητες του Mythos στις μάζες, στις 9 Ιουνίου. Αν θυμάστε, το Mythos είναι το μόνο τεχνολογικό μοντέλο που διαθέτει η Jiwing για τα τελευταία της έργα. Οι δυνατότητες του Partner Fable «ξεπερνούν» κάθε προηγούμενο μοντέλο που παρουσίασε η Anthropic. νικήστε το Pokemon Fire Red Κατά τη διάρκεια των δοκιμών της εταιρείας, για παράδειγμα, όταν ο Claude δεν κατάφερε να νικήσει κόκκινο pokemonΤο αρχικό παιχνίδι βασίστηκε σε αυτό.
Στην ανάρτησή της, η Anthropologie απαριθμούσε τα βήματα που έκανε για να διασφαλίσει ότι το Fable ήταν ασφαλές. Είπε ότι “είχε εισαγάγει ισχυρές δικλείδες ασφαλείας για να μειώσει την πιθανότητα κατάχρησης του Fable για εργασίες που σχετίζονται με την ασφάλεια στον κυβερνοχώρο” και πρόσθεσε ότι “οι διασφαλίσεις του είναι τόσο ισχυρές που πολλοί χρήστες έχουν παραπονεθεί ότι είναι υπερβολικές”. Η εταιρεία εξήγησε επίσης ότι κανένας πάροχος δεν μπορεί να εγγυηθεί τέλεια αντίσταση σε προσπάθειες jailbreak και ότι κάθε μοντέλο είναι ευάλωτο σε jailbreak που έχουν σχεδιαστεί ειδικά για αυτό. «Σκοπεύουμε να κάνουμε τα jailbreak είτε στενά (στην περίπτωση των μη καθολικών jailbreaks) είτε πολύ ακριβά (στην περίπτωση των καθολικών jailbreaks) και να το συνδυάσουμε με ενδελεχή παρακολούθηση για να ανιχνεύσουμε γρήγορα και να σταματήσουμε κάθε επιτυχημένη επίθεση», είπε για την αμυντική στρατηγική της.
Η κυβέρνηση προφανώς έδωσε προφορικές αποδείξεις στην εταιρεία για να πραγματοποιήσει ένα δυνητικά περιορισμένο, μη δημόσιο jailbreak που μια ανώνυμη οντότητα μοιράστηκε με αξιωματούχους. Η Anthropic υποσχέθηκε να μοιραστεί περισσότερες λεπτομέρειες τις επόμενες 24 ώρες, αλλά κατέστησε σαφές ότι δεν συμφωνεί ότι ένα πιθανό jailbreak θα πρέπει να είναι λόγος για να ανακαλέσουμε ένα εμπορικό μοντέλο.
«Όπως έχουμε πει δημόσια, πιστεύουμε ότι οι κυβερνήσεις θα πρέπει να έχουν τη δυνατότητα να μπλοκάρουν τις μη ασφαλείς εγκαταστάσεις ως μέρος μιας νομοθετικής διαδικασίας που είναι διαφανής, δίκαιη, σαφής και βασίζεται σε τεχνικά δεδομένα», έγραψε η Anthropic, η οποία έχει εκφράσει τις προειδοποιήσεις της για την ανάγκη για περισσότερη επίβλεψη της τεχνητής νοημοσύνης. «Αυτή η ενέργεια δεν συμμορφώνεται με αυτές τις αρχές».