Ενώ η υπόλοιπη χώρα γιόρταζε την πρώτη νίκη των Ηνωμένων Πολιτειών στο Παγκόσμιο Κύπελλο και το πρωτάθλημα των Νιου Γιορκ Νικς, η Anthropic πέρασε το Σαββατοκύριακο παλεύοντας με την κυβέρνηση Τραμπ για την τελευταία της κυκλοφορία. Στις 5:21 μ.μ. της Παρασκευής, η εταιρεία έλαβε μια οδηγία για τον έλεγχο των εξαγωγών των ΗΠΑ για την αναστολή της πρόσβασης στα μοντέλα Mythos 5 και Fable 5 AI από «οποιονδήποτε ξένο υπήκοο» εντός ή εκτός των Ηνωμένων Πολιτειών, «συμπεριλαμβανομένων των ξένων υπηκόων ανθρωπιστικών υπαλλήλων». Η Anthropic αποφάσισε ότι ο μόνος τρόπος ήταν να απενεργοποιήσει εντελώς τα προϊόντα που είχε περάσει την περασμένη εβδομάδα προωθώντας – και να πετάξει στην Ουάσιγκτον, DC, με την ελπίδα να αλλάξει τη γνώμη του προέδρου Ντόναλντ Τραμπ. Τώρα, τις επόμενες ημέρες, η κυβέρνηση των ΗΠΑ θα μπορούσε να αλλάξει δραματικά την πορεία ολόκληρου του κλάδου, επιφέροντας ένα βαρύ πλήγμα στις αμερικανικές εταιρείες τεχνητής νοημοσύνης.
Το Claude Mythos 5 και το Fable 5 είναι χτισμένα στα ίδια θεμέλια με το Mythos Preview του Anthropic, το οποίο ο Anthropic περιέγραψε ως πολύ επικίνδυνο για να κυκλοφορήσει δημόσια. (Οι προειδοποιήσεις της εταιρείας θα μπορούσαν να θεωρηθούν ως μια πραγματική ανησυχία ή περισσότερη διαφημιστική εκστρατεία για το δικό της μοντέλο — ή και τα δύο.) Το Mythos 5 διατέθηκε σε μια επιλεγμένη ομάδα κυβερνητικών υπηρεσιών και εταιρειών, ενώ το Fable 5, το οποίο περιλάμβανε πρόσθετες διασφαλίσεις, κρίθηκε “ασφαλές για γενική χρήση”. Αλλά όταν μια αναφορά υποδηλώνει ότι αυτά τα προστατευτικά κιγκλιδώματα μπορεί να έχουν αποτύχει, οι τρομερές προειδοποιήσεις της Anthropic για την πτώση της Mythos σε λάθος χέρια επιστρέφουν για να την στοιχειώσουν.
Μια πηγή που γνωρίζει την κατάσταση, η οποία συμμετείχε στις διαπραγματεύσεις μεταξύ της Anthropic και της κυβέρνησης Τραμπ, είπε ότι η κυβέρνηση επικοινώνησε με το εργαστήριο AI την Παρασκευή γύρω στη 13:00. ET και έδωσε στην εταιρεία τελεσίγραφο 90 λεπτών για να κλείσει την πρόσβαση στο Mythos 5 και το Fable 5. Εάν αυτό δεν συμβεί, η κυβέρνηση θα επιβάλει ελέγχους εξαγωγών στην Anthropic υπό την εξουσία του Υπουργείου Εμπορίου των ΗΠΑ.
Στελέχη της Anthropic μιλούσαν στον Λευκό Οίκο μέσα σε 15 λεπτά από την πρώτη αυτή κλήση, είπε η πηγή, επιβεβαιώνοντας ότι ο διευθύνων σύμβουλος Dario Amodei συμμετείχε στις συζητήσεις περίπου μία ώρα και 15 λεπτά μετά την αρχική κλήση. Η πηγή επιβεβαίωσε ότι ο Amodei μίλησε απευθείας με τον υπουργό Οικονομικών των ΗΠΑ Scott Besent, τον υπουργό Εμπορίου Howard Lutnick και τον National Internet Director Sean Cairncross, και σε ορισμένες περιπτώσεις περισσότερες από μία φορές.
Η Anthropic έγραψε σε δήλωσή της την Παρασκευή ότι η εταιρεία πιστεύει ότι η κυβέρνηση «πιστεύει ότι έχει συνειδητοποιήσει μια μέθοδο παράκαμψης ή «διακοπής jailbreak» του Fable 5». Ωστόσο, αντί για υπαρξιακή απειλή, η Anthropic είπε ότι το εν λόγω jailbreak ήταν μια «δυνητικά στενή και μη παγκόσμια» επιχείρηση που «μοιράστηκε με την κυβέρνηση» από μια οντότητα που η εταιρεία αρνήθηκε να κατονομάσει. Επιπλέον, η Anthropic είπε ότι η συμπεριφορά δεν ήταν μοναδική για το Fable 5. «Ελέγξαμε μια αναφορά που πιστεύουμε ότι είναι η βάση της κυβερνητικής καθοδήγησης και επιβεβαιώσαμε ότι το επίπεδο ικανότητας που αποδεικνύεται εκεί είναι ευρέως διαθέσιμο από άλλα μοντέλα (συμπεριλαμβανομένου του GPT-5.5 του OpenAI),» έγραψε η Anthropic.
φανάρια ανέφεραΕπικαλούμενη μια ενημερωμένη πηγή, ο σάλος ξεκίνησε επειδή η κυβέρνηση των ΗΠΑ ανησυχούσε για μια ομάδα που συνδέεται με την Κίνα να αποκτήσει πρόσβαση στην τεχνολογία. Ωστόσο, η πηγή είπε ότι οι φήμες που σχετίζονται με την Κίνα πηγαίνουν εβδομάδες πίσω, αναφερόμενες σε μια μεγάλη παγκόσμια εταιρεία τηλεπικοινωνιών στην οποία επιτρεπόταν αρχικά να συμπεριληφθεί στην πρόσβαση στο Mythos Preview και ότι όταν η κυβέρνηση των ΗΠΑ μοιράστηκε τις ανησυχίες της, η Anthropic ανακάλεσε αμέσως την πρόσβαση.
ότι Κοινοποίηση X Του David Sachs, του πρώην αξιωματούχου τεχνητής νοημοσύνης και κρυπτονομισμάτων της κυβέρνησης των ΗΠΑ που παραιτήθηκε τον Μάρτιο, δεν ανέφερε επίσης την Κίνα. Ωστόσο, ο Sachs ανέφερε την ανώνυμη οντότητα που αποκάλυψε το πρόβλημα στην κυβέρνηση, αποκαλώντας την “έναν πολύ αξιόπιστο συνεργάτη τόσο της Anthropic όσο και της USG που δοκίμαζε την Fable (η οποία) προέκυψε με ένα jailbreak για αυτά τα εμπόδια».
μερικοί Αναφορές Υποδείξτε τον διευθύνοντα σύμβουλο της Amazon, Andy Jassy, ως το πρόσωπο που ανέφερε τις ανησυχίες του στην κυβέρνηση των ΗΠΑ, αφού οι ερευνητές της Amazon ο Red συνεργάστηκαν με το Fable 5. Αυτό το συμπέρασμα έρχεται σε αντίθεση με ορισμένα ανεξάρτητα μέλη της κόκκινης ομάδας, τα οποία έχουν Είπε Εντυπωσιάστηκαν από το επίπεδο προστασίας.
Η πηγή που γνωρίζει τις διαπραγματεύσεις είπε ότι η έρευνα της Amazon αναφέρθηκε ρητά σε συνομιλίες με την κυβέρνηση των ΗΠΑ. Η Anthropic απέκτησε πρόσβαση σε αυτό το έγγραφο εντός ημερών από την οδηγία για τον έλεγχο των εξαγωγών της Παρασκευής και έκτοτε πηγαινοέρχεται με ερευνητές της Amazon για να το συζητήσει, πρόσθεσε το άτομο.
Τα πάντα σε αυτό το έγγραφο μπορούν να επιτευχθούν με το GPT-5.5 του OpenAI, είπε η πηγή.
Η Anthropic πέρασε το Σαββατοκύριακο προσπαθώντας να παίξει όμορφα με την κυβέρνηση Τραμπ, ξεκινώντας με εικονικές συναντήσεις και στη συνέχεια πετώντας υπαλλήλους στην D.C., συμπεριλαμβανομένου του Dave Orr, του επικεφαλής της Anthropic. Logan Graham, ο οποίος διευθύνει την Red Frontier Team και ηγήθηκε της εργασίας στο έργο Glasswing. και ο Nicholas Carlini, κορυφαίος προγραμματιστής και ερευνητής κυβερνοασφάλειας. Αξιος ανέφεραΕπικαλούμενη πηγή εξοικειωμένη με τον τρόπο σκέψης της κυβέρνησης Τραμπ, η εταιρεία απλώς έκανε επανειλημμένα λάθη στην επικοινωνία της με την κυβέρνηση και ότι «δεν έκανε σπουδαία δουλειά προσπαθώντας να μιλήσει με την κυβέρνηση και να εκτιμήσει τις ιδεολογικές διαφορές». Για την Anthropic, το χρονοδιάγραμμα δεν θα μπορούσε να είναι χειρότερο: Η εταιρεία βασίστηκε στο Mythos για να τη βοηθήσει να ανακάμψει, εν μέρει, από μήνες υψηλού προφίλ συγκρούσεων με το Υπουργείο Άμυνας των ΗΠΑ.
Η πηγή που γνωρίζει τις διαπραγματεύσεις είπε ότι η Anthropic είχε ενημερώσει προηγουμένως τη διοίκηση για το Fable 5 και ότι το Υπουργείο Εμπορίου των ΗΠΑ διεξήγαγε δοκιμές πριν από την ανάπτυξη, χωρίς να μοιράζεται οποιεσδήποτε ανησυχίες εκείνη τη στιγμή. Η πηγή πρόσθεσε ότι η Anthropic συνεργάζεται στενά με κυβερνητικές υπηρεσίες από την κυκλοφορία του Mythos Preview.
Η κυβέρνηση Τραμπ αρχικά υιοθέτησε μια laissez-faire προσέγγιση για την ασφάλεια της τεχνητής νοημοσύνης – αλλά μετά τον μύθο, έγινε πιο αμφίθυμη, ακόμη και αν ανησυχεί για τον κίνδυνο να χάσει τον αγώνα της τεχνητής νοημοσύνης από την Κίνα. Τώρα, εξέχοντες ηγέτες της κυβερνοασφάλειας είναι επίσης να προσέχω Η παράκαμψη των Mythos 5 και Fable 5 θα μπορούσε να δώσει στην Κίνα ένα τεράστιο πλεονέκτημα στον τομέα της τεχνητής νοημοσύνης. Η κίνηση του Τραμπ έχει υποκινήσει διεθνείς εκκλήσεις για εναλλακτικές λύσεις στα συστήματα τεχνητής νοημοσύνης των ΗΠΑ, ενώ ουσιαστικά έχει θέσει το νέο εμβληματικό μοντέλο μιας μεγάλης αμερικανικής εταιρείας τεχνητής νοημοσύνης στον πάγο.
ΕΝΑ Δημόσιος λόγος Στελέχη τεχνολογίας και κυβερνοασφάλειας ζήτησαν την ακύρωση του Fable 5 την Κυριακή. «Δεν συμφωνούμε όλοι ότι η ρύθμιση της τεχνητής νοημοσύνης είναι ο σωστός δρόμος προς τα εμπρός», ανέφερε η επιστολή, προσθέτοντας ότι εάν η ρύθμιση εφαρμοστεί ανεξάρτητα, θα πρέπει να βασίζεται σε «επιστημονικές αξιολογήσεις που αναπτύχθηκαν με τη συμβολή της βιομηχανίας και του ακαδημαϊκού κόσμου».
είπε ο Alex Stamos, Chief Product Officer στο Corridor Ακρη Οργάνωσε τη δημόσια επιστολή επειδή τα αμέτρητα τρωτά σημεία της περασμένης δεκαετίας, γραμμένα σε μια ποικιλία διαφορετικών γλωσσών προγραμματισμού, απαιτούν επιδιόρθωση τεχνητής νοημοσύνης πριν τα βρουν κακοί ηθοποιοί. «Είμαστε σε έναν αγώνα δρόμου και νομίζω ότι οι υπεύθυνοι χάραξης πολιτικής δεν το καταλαβαίνουν αυτό», είπε ο Στάμος. “Υπάρχει αυτή η παράξενη αλαζονεία, αυτή η ιδέα ότι τα αμερικανικά εργαστήρια είναι πολύ ανώτερα από τους αντιπάλους μας, κάτι που θα ισχύει πάντα και ότι είναι πολύ σημαντικό να περιοριστεί η πρόσβαση γι’ αυτό. Νομίζω ότι είναι ανόητο. Αν τα εργαστήρια ήταν μπροστά, θα χρειάζονταν μόνο μερικούς μήνες. Και μπορείτε να δείτε ότι στις ανοιχτές αξιολογήσεις.
Η δημόσια επιστολή συνεχίζει σημειώνοντας ότι ενώ τα μοντέλα της κλάσης Mythos της Anthropic είναι ικανά να βρίσκουν τρωτά σημεία στον κυβερνοχώρο και να αξιοποιούν εκμεταλλεύσεις, δεν είναι «μοναδικά καλά» σε αυτές τις εργασίες και ότι οι διασφαλίσεις του Fable 5 «ήταν τόσο επιθετικές που ήταν η πηγή του χιούμορ στην κοινότητα του κυβερνοχώρου την ημέρα της κυκλοφορίας». είπε ο Στάμος Ακρη ότι “Υπήρξε μια πραγματική υπερεκτίμηση των ικανοτήτων του Mythos. Και η Anthropic είναι σαφώς κάπως υπεύθυνη για αυτό η ίδια… Η Mythos είναι υπέροχη, αλλά η πραγματική καμπή ήταν πέρυσι.”
Ο Στάμος είπε ότι ο κλάδος είναι γεμάτος με συμβόλαια αναμονής που υπογράφονται με εταιρείες εκτός ΗΠΑ και μοντέλα ανοιχτού βάρους που αναπτύσσονται σε ρυθμίσεις εξοπλισμού αναμονής, επειδή το περασμένο Σαββατοκύριακο έκανε τον πολιτικό κίνδυνο μέρος των επιχειρηματικών σχεδίων των εταιρειών περισσότερο από ποτέ.
«Μας γελάνε στο Πεκίνο αυτή τη στιγμή», είπε ο Στάμος. “Ένας από τους ήρωες της Αμερικής χτυπήθηκε από την αμερικανική κυβέρνηση ενώ ήμασταν σε αγώνα αγώνα με τους Κινέζους. Είναι τόσο ανόητο. Γι’ αυτό έγραψα την επιστολή και νομίζω ότι γι’ αυτό την υπέγραψαν τόσοι πολλοί άνθρωποι”.
είπε ο Ben Van Roo, συνιδρυτής και Διευθύνων Σύμβουλος της Legion Intelligence, ενός λειτουργικού συστήματος για την κοινότητα εθνικής ασφάλειας Ακρη «Η οδηγία ότι κανένας αλλοδαπός δεν πρέπει να χρησιμοποιεί αυτό το έντυπο είναι αδύνατο να εφαρμοστεί». «Όταν το διάβασα για πρώτη φορά, ολόκληρο το δίκτυο των geeks μου στην κοινότητα της τεχνητής νοημοσύνης είχε μια έκρηξη», πρόσθεσε.
Για να κάνουν τα πράγματα πιο πιεστικά, η OpenAI, η Google και η Microsoft έχουν κυκλοφορήσει με δικά τους προϊόντα παρόμοια με το Mythos της Anthropic, κάνοντας πολλούς από τους ίδιους ισχυρισμούς σχετικά με την αποτελεσματικότητα και τους κινδύνους του. Εάν η κυβέρνηση Τραμπ απαγορεύσει τα προηγμένα μοντέλα κυβερνοασφάλειας της Anthropic, θα μπορούσε να δικαιολογήσει την απαγόρευση και των μοντέλων των ανταγωνιστών της. Αυτό θα μπορούσε να παρακινήσει τους ηγέτες του κλάδου της τεχνητής νοημοσύνης να ενωθούν και να βοηθήσουν την Anthropic, ή, όπως στη μάχη της με το Πεντάγωνο για τα αυτόνομα όπλα, να τοποθετηθούν ως μια ασφαλέστερη, πιο συμμορφούμενη εναλλακτική λύση.
Ακόμη και καθώς η κυβέρνηση Τραμπ προσπαθεί να απαλλάξει τις εταιρείες τεχνολογίας από τις ρυθμιστικές ταλαιπωρίες, το ανθρωπιστικό σύστημα θα μπορούσε να ισοδυναμεί με σημαντικό περιορισμό σε ισχυρά μοντέλα τεχνητής νοημοσύνης – ανάλογα με το πώς θα εξελιχθούν τα πράγματα τις επόμενες ημέρες.
Ο Van Roo της Legion Intelligence το περιέγραψε ως «αχαρτογράφητη περιοχή» στο ρυθμιστικό πλαίσιο, προσθέτοντας ότι δεν πίστευε ότι αυτή ήταν η τελευταία φορά που θα συνέβαινε κάτι τέτοιο.
Έχουμε επίσης εισέλθει σε μια εποχή λαϊκισμού τεχνητής νοημοσύνης, καθώς ένας αυξανόμενος αριθμός ανθρώπων αντιστέκεται στην τεράστια επιρροή της βιομηχανίας της τεχνητής νοημοσύνης και στη συγκέντρωση της εξουσίας στην κορυφή μέσω διαμαρτυριών στα κέντρα δεδομένων, δεσμεύσεων για… Φύλλα Με chatbots AI, παράνομες αγωγές θανάτου, ακόμη και απόπειρες επίθεσης σε CEO εταιρειών AI. Οι πρόσφατες κινήσεις της κυβέρνησης Τραμπ κατά των Anthropics θα μπορούσαν να εγείρουν “μεγαλύτερους φόβους και ανησυχίες, ίσως για λάθος λόγους”, λέει ο Van Roo.
Η πηγή που γνωρίζει τις διαπραγματεύσεις περιέγραψε τις συνομιλίες του Σαββατοκύριακου ως εποικοδομητικές, με ορισμένα μέλη της διοίκησης να αναγνωρίζουν ότι η επιβολή ελέγχων στις εξαγωγές σε παρόχους μοντέλων δεν είναι ιδανική, επειδή οι ανταγωνιστές με παρόμοια προϊόντα θα μπορούσαν να βρεθούν κάτω από τους ίδιους περιορισμούς — και δεδομένου ότι η κυβέρνηση των Η.Π.Α. Εξερευνήστε εκτός σύνδεσης Ένα πρόγραμμα που θα ενθάρρυνε την εξαγωγή αμερικανικών συστημάτων τεχνητής νοημοσύνης.
Καθώς η Anthropic συνεχίζει να διαπραγματεύεται με την κυβέρνηση των ΗΠΑ, υπάρχει μικρή πιθανότητα τα μυριάδες άλλα ζητήματα της εταιρείας να μην έρθουν στο Πεντάγωνο – η συνεχιζόμενη μάχη μεταξύ της Anthropic και του Υπουργείου Άμυνας σχετικά με τις πολιτικές για την αποδεκτή χρήση της τεχνολογίας της Anthropic από τον αμερικανικό στρατό.
«Αυτό είναι καινούργιο και δεν έχουμε συναντήσει κάτι δυνητικά ριζοσπαστικό πριν, και έχει κάποιες πραγματικές επιπτώσεις» όσον αφορά τον τρόπο επιβολής της πρόσβασης σε στιβαρά μοντέλα, είπε ο Van Roo. «Ποιος μπορεί να χρησιμοποιήσει αυτή τη νέα τεχνολογία που εξακολουθεί να υπερβαίνει την ικανότητά μας να τη ρυθμίζουμε;»