Έχουν περάσει δύο εβδομάδες από τότε που η Anthropic απέσυρε τα μοντέλα της κατηγορίας Mythos μετά από τελεσίγραφο το βράδυ της Παρασκευής από την κυβέρνηση Τραμπ. Η εταιρεία ξεκίνησε αμέσως δράση, στέλνοντας ένα μπαράζ στελεχών στην Ουάσιγκτον, D.C. Ωστόσο, ύποπτα λείπουν ενημερώσεις, χωρίς να υπάρχει λύση.
Ο Anthropic αρνήθηκε να σχολιάσει πολλές φορές αυτή την εβδομάδα την κατάσταση των συνομιλιών, λέγοντας ότι δεν υπάρχουν νέα για κοινή χρήση. Αλλά υπάρχουν λίγα νέα Αυτός είναι Η ιστορία είναι εδώ. Μετά από 14 ημέρες έντονων διαπραγματεύσεων, κανείς δεν γνωρίζει πότε ή αν θα επιστρέψουν τα πιο ισχυρά μοντέλα AI της Anthropic, πόσο μάλλον αν ο Πρόεδρος Τραμπ μπορεί να επεκτείνει το αίτημά του για να συμπεριλάβει περισσότερες εταιρείες με παρόμοια τεχνολογία. Όσο περισσότερες μέρες περνούν χωρίς καμία λύση, τόσο πιο τραγικά γίνονται τα πράγματα — όχι μόνο για την ανθρωπότητα, αλλά για ολόκληρη την αμερικανική βιομηχανία τεχνητής νοημοσύνης.
Η εντολή ελέγχου των εξαγωγών της κυβέρνησης Τραμπ στις 12 Ιουνίου απαιτούσε από την Anthropic να αναστείλει την πρόσβαση “οποιουδήποτε ξένου υπηκόου” στο Mythos 5 και το Fable 5 λόγω ανησυχιών για την ασφάλεια. Αυτή η απαγόρευση περιλαμβάνει οποιονδήποτε μη αμερικανό υπήκοο εντός ή εκτός των Ηνωμένων Πολιτειών, συμπεριλαμβανομένων των ατόμων που εργάζονται για την Anthropic. Μέχρι στιγμής, η Anthropic έχει καταλάβει ότι η μόνη της επιλογή είναι να διατηρεί αυτά τα μοντέλα εκτός σύνδεσης.
Δεν είναι ξεκάθαρο ακριβώς γιατί η ανθρωπολογία και η διαχείριση παραμένουν σε αδιέξοδο. Ένα πρόβλημα μπορεί να είναι η έλλειψη σαφούς πλαισίου για την εφαρμογή ελέγχων εξαγωγών σε συστήματα τεχνητής νοημοσύνης. Οι περισσότερες εταιρείες που κατασκευάζουν προϊόντα διπλής χρήσης -πολιτικά συστήματα με πιθανές αμυντικές ή στρατιωτικές χρήσεις- μπορούν να τα αξιολογήσουν χρησιμοποιώντας αυτό που είναι ουσιαστικά μια λίστα ελέγχου κατά τη διαδικασία κατασκευής και παραγωγής. Ωστόσο, η ανθρωπολογία αντιμετωπίζει μια περίπλοκη γραφειοκρατία που προσπαθεί να βρει πώς να εφαρμόσει τους κανόνες της από τις πρώτες αρχές.
Αυτή η διαδικασία ελέγχου των εξαγωγών μπορεί συνήθως να διαρκέσει για μήνες, αν όχι χρόνια, και τελειώνει πριν το προϊόν φτάσει στην αγορά. Αλλά όπως Ακρη Είχε αναφερθεί προηγουμένως ότι το Υπουργείο Εμπορίου των ΗΠΑ δοκίμασε το Fable 5 πριν από την κυκλοφορία του και δεν υπέβαλε παράπονα. Η Anthropic κατέληξε στο συμπέρασμα ότι τα μοντέλα της είναι ασφαλή στην ανάπτυξη, είπε μια πηγή που γνωρίζει τις διαπραγματεύσεις. Φαίνεται ότι η υπηρεσία δεν ενήργησε μέχρι να εμφανιστεί κάποιος (σύμφωνα με πληροφορίες). Ο διευθύνων σύμβουλος της Amazon Andy Jassy) Επισημάνθηκε μια μέθοδος για να σπάσει προφανώς τα προστατευτικά κιγκλιδώματα του Fable 5 – οπότε η όλη διαδικασία στριμώχθηκε σε λίγες μέρες.
Η Καίτη Μουσούρη, ιδρύτρια και Διευθύνουσα Σύμβουλος της Luta Security, εξέτασε μια έκθεση σχετικά με την ευπάθεια του Fable 5 κατόπιν αιτήματος της Anthropic. Θεωρεί ότι είναι πολύ υπερβολικό. Σε ένα Ανάρτηση ιστολογίουο Μουσούρης εξήγησε πώς οι ερευνητές έσπασαν τα προστατευτικά κιγκλιδώματα που εμποδίζουν το Fable 5 να βρει εκμεταλλεύσιμα τρωτά σημεία, μια από τις πιο τρομακτικές ικανότητες του μη προσδεδεμένου Mythos 5. Η φόρμα θα απορρίψει αιτήματα ελέγχου κώδικα για «λόγους ασφαλείας», αλλά θα αποδεχτεί αιτήματα «διόρθωσης αυτού του κώδικα», τα οποία θα μπορούσαν να οδηγήσουν σε χειροκίνητα flaggneroremptts δεν έπρεπε να αποκαλυφθούν.
Ωστόσο, στα μάτια του Μουσούρη, αυτό δεν έπρεπε να οδηγήσει σε τόσο δραστικές κυβερνητικές ενέργειες, αλλά στην πραγματικότητα είναι ένα ουσιαστικό εργαλείο για την κρυπτογράφηση AI. «Οι υπερασπιστές θα πρέπει να μπορούν να ζητούν από την τεχνητή νοημοσύνη να διορθώσει σφάλματα στο αρχείο, να εξηγήσουν γιατί η επιδιόρθωση είναι σημαντική και να γράφουν δοκιμές που επιβεβαιώνουν ότι η ενημέρωση κώδικα λειτούργησε», έγραψε. “Αυτό δεν είναι διάβαση προστατευτικών κιγκλιδωμάτων. Είναι ό,τι πιο πολύτιμο μπορεί να κάνει ένα μοντέλο τεχνητής νοημοσύνης για την αμυντική ασφάλεια: να εκτελεί τις εργασίες αναζήτησης, επισκευής και δοκιμής υπερασπιστών που εκτελούνται καθημερινά.”
Την περασμένη εβδομάδα, ο συνιδρυτής της Anthropic, Tom Brown, αντικατέστησε τον διευθύνοντα σύμβουλο Dario Amodei στις διαπραγματεύσεις με την κυβέρνηση Τραμπ, μαζί με τη Sarah Heck, την επικεφαλής δημόσιας πολιτικής της εταιρείας. Ενσύρματο ανέφερα. Ωστόσο, οι διαπραγματεύσεις εξακολουθούν να φαίνονται αργές, αν υπάρχει κάποια πρόοδος.
Όποιοι και αν ήταν οι λόγοι της καθυστέρησης, ήταν ένα σοβαρό πλήγμα για την Anthropic. Πριν από τις μακροχρόνιες διαπραγματεύσεις, η Anthropic θεωρούνταν η σπάνια εταιρεία τεχνητής νοημοσύνης με μια πορεία προς την κερδοφορία. Τα μοντέλα της κατηγορίας Mythos, των οποίων τα διακριτικά εισόδου πωλούνται διπλάσια από το κόστος του Opus 4.8 χαμηλότερης ισχύος, υποτίθεται ότι θα ενίσχυαν τα έσοδά του πριν από την επόμενη IPO του. Η ανδρεία του Methos στην κυβερνοασφάλεια φαίνεται ότι οδήγησε σε τήξη των σχέσεων με την κυβέρνηση Τραμπ μετά από μήνες νομικών και ρητορικών μαχών.
Η Anthropic χρειάζεται τα έσοδα της Mythos για να πληρώσει για όλους τους υπολογιστές που απέκτησε πρόσφατα, συμπεριλαμβανομένης της συμφωνίας για την πληρωμή της SpaceX 15 δισεκατομμυρίων δολαρίων ετησίως για πρόσβαση στα κέντρα δεδομένων της, καθώς και για τη δημόσια εικόνα της πριν από την IPO της. Δύο από τους μεγαλύτερους σημερινούς μετόχους της Anthropic – η Google και η Amazon – προσπάθησαν προσεκτικά να παραμείνουν στην καλή πλευρά του Τραμπ, οπότε πιθανότατα ούτε αυτοί θα είναι ευχαριστημένοι.
Ταυτόχρονα, οι αργές διαπραγματεύσεις έχουν δημιουργήσει επίσης ένα κενό ισχύος στην παγκόσμια αγορά τεχνητής νοημοσύνης, όχι μόνο λόγω του τερματισμού της Mythos, αλλά επειδή η κυβέρνηση των ΗΠΑ έχει σηματοδοτήσει την προθυμία να κλείσει τα αμερικανικά συστήματα τεχνητής νοημοσύνης που θεωρεί επικίνδυνα — και αρκετές αμερικανικές εταιρείες, συμπεριλαμβανομένων των OpenAI, Google και Microsoft, έχουν μοντέλα που ενδέχεται να θέτουν παρόμοιους κινδύνους για τη Mythos. Οι χώρες αρχίζουν να υποστηρίζουν τη μη αμερικανική τεχνητή νοημοσύνη. είπε ο Άλεξ Στάμος, ειδικός σε θέματα κυβερνοασφάλειας και επικεφαλής προϊόντων στο Corridor Ακρη Την περασμένη εβδομάδα, “Ένας από τους ήρωες της Αμερικής γονάτισε η κυβέρνηση των ΗΠΑ ενώ ήμασταν σε αγώνα αγώνα με τους Κινέζους. Είναι τόσο ανόητο.”
Όσο περνούν οι μέρες, η κατάσταση επιδεινώνεται για αυτές τις εταιρείες. Τα μοντέλα τους προσεγγίζουν δυνατότητες σε επίπεδο Mythos που θα μπορούσαν να ενεργοποιήσουν μια εντολή ελέγχου εξαγωγής — στην πραγματικότητα, το GPT-5.5 Cyber του OpenAI Μόλις κέρδισε 5 μύθοι για ορισμένα πρότυπα και την κυβέρνηση Τραμπ λέγεται Μόλις ζήτησε από το OpenAI να καθυστερήσει την κυκλοφορία του GPT-5.6 λόγω ανησυχιών για την ασφάλεια, με σχέδια για την κυβέρνηση να εγκρίνει κάθε πελάτη έναν προς έναν. Η IPO της Anthropic και της OpenAI πλησιάζει. Κάθε μέρα, η Κίνα προχωρά μπροστά στον αγώνα τεχνητής νοημοσύνης.
Κατά ειρωνικό τρόπο, η εντολή της κυβέρνησης έρχεται μετά από μήνες πιέσεις για την κατάργηση των διασφαλίσεων και της ρύθμισης της τεχνητής νοημοσύνης, μια από τις πρώτες σαρωτικές ρυθμιστικές αποφάσεις που έλαβε ο Πρόεδρος Τραμπ. Αλλά μια ολόκληρη σειρά ηγετών στον τομέα της κυβερνοασφάλειας το έκανε Μαζευόμαστε να πούμε Αν πρέπει να οργανωθείς, δεν είναι αυτός ο τρόπος να το κάνεις. Παρά τις δεσμεύσεις της κυβέρνησης Τραμπ να ανακαλέσει τη ρύθμιση της τεχνητής νοημοσύνης υπό τον Μπάιντεν, φαίνεται ότι έχει ανακτήσει αυτό το έδαφος με πολλούς τρόπους και όχι μόνο.