Η Anthropic δήλωσε την Παρασκευή ότι θα «απενεργοποιήσει απότομα» τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης για όλους τους χρήστες, αφού η κυβέρνηση των ΗΠΑ την διέταξε να αναστείλει την πρόσβαση στα μοντέλα για ξένους υπηκόους, επικαλούμενη ανησυχίες για την εθνική ασφάλεια.
Η εταιρεία έλαβε την οδηγία για τον έλεγχο των εξαγωγών για να αναστείλει την πρόσβαση στο Fable 5 και στο Myth 5 για όλους τους ξένους υπηκόους, χωρίς να λάβει συγκεκριμένες λεπτομέρειες για τις ανησυχίες της για την εθνική ασφάλεια, ανέφερε η Anthropic σε δήλωση.
Η Anthropic αντιλαμβάνεται ότι η κυβέρνηση πιστεύει ότι υπάρχει μια μέθοδος για την παράκαμψη ή το “jailbreaking”, μια δικλείδα ασφαλείας που θα εμπόδιζε το Fable 5 να χρησιμοποιηθεί για τον εντοπισμό τρωτών σημείων λογισμικού, είπε η εταιρεία.
Η διαταγή έρχεται ακριβώς τη στιγμή που μια προηγούμενη διαμάχη μεταξύ αξιωματούχων της κυβέρνησης Τραμπ και της Anthropic που δεσμεύτηκε για IPO έδειξε σημάδια χαλάρωσης σχετικά με τμήματα της αμερικανικής κυβέρνησης.
Η σχέση της Anthropic με την κυβέρνηση χάλασε φέτος αφού αρνήθηκε να επιτρέψει στον αμερικανικό στρατό να χρησιμοποιήσει τα μοντέλα τεχνητής νοημοσύνης του για οικιακή επιτήρηση και πλήρως αυτόνομα οπλικά συστήματα. Η κυβέρνηση απάντησε τοποθετώντας την Anthropic σε μια μαύρη λίστα εφοδιαστικής αλυσίδας που τέθηκε σε ισχύ αργότερα μέσα στο έτος.
Διαβάστε περισσότεραΕξορθολογισμός της αλυσίδας θανάτωσης: πώς η τεχνητή νοημοσύνη αλλάζει τον σύγχρονο πόλεμο
Η δράση σηματοδοτεί επίσης μια σημαντική κλιμάκωση των προσπαθειών των ΗΠΑ να σταματήσουν τις ικανότητες τεχνητής νοημοσύνης των ξένων αντιπάλων. Για χρόνια, οι έλεγχοι των εξαγωγών των ΗΠΑ επικεντρώνονται σε τσιπ και εργαλεία που έχουν δύναμη
AI αντί να περιορίζει την πρόσβαση ξένων στην ίδια την τεχνητή νοημοσύνη.
Η Anthropic είπε ότι η κυβέρνηση της είχε δώσει μόνο «προφορικές αποδείξεις για ένα δυνητικά στενό, μη καθολικό jailbreak».
“Δεν συμφωνούμε ότι η ανακάλυψη ενός περιορισμένου δυνητικού jailbreak θα πρέπει να είναι αιτία για να ανακαλέσουμε ένα εμπορικό μοντέλο που έχει αναπτυχθεί σε εκατοντάδες εκατομμύρια ανθρώπους”, δήλωσε η εταιρεία.
Η κυβερνητική οδηγία και η απάντηση της Anthropic υπογραμμίζουν την αυξανόμενη ένταση μεταξύ προγραμματιστών τεχνητής νοημοσύνης και ρυθμιστικών αρχών σχετικά με τον τρόπο αξιολόγησης των κινδύνων των λεγόμενων «jailbreaks» ή των μεθόδων που χρησιμοποιούνται για την παράκαμψη των διασφαλίσεων μοντέλων.
Μόλις την Τετάρτη, η Anthropic ζήτησε μεγαλύτερη επίβλεψη της τεχνητής νοημοσύνης από τις ΗΠΑ, συμπεριλαμβανομένης της ικανότητας αποκλεισμού μοντέλων με απαράδεκτους κινδύνους. Ανέφερε, ωστόσο, ότι η δράση της κυβέρνησης την Παρασκευή δεν ακολουθούσε τις αρχές της δίκαιης και βασισμένης σε γεγονότα ρύθμισης.
Μία από τις επεκτάσεις του προγράμματος περιήγησής σας φαίνεται να εμποδίζει τη φόρτωση του προγράμματος αναπαραγωγής βίντεο. Για να δείτε αυτό το περιεχόμενο, πρέπει να το απενεργοποιήσετε σε αυτόν τον ιστότοπο.
Εικόνα εξωφύλλου: BUSINESS © FRANCE 24
Η επικεφαλής πληροφοριών του Πενταγώνου, Κίρστεν Ντέιβις, δήλωσε σε ανάρτησή της στο X ότι το Υπουργείο Άμυνας υποστηρίζει την προτεραιότητα της εθνικής ασφάλειας.
“Λίγα πράγματα είναι απλά πιο σημαντικά από τους κύκλους εσόδων, το clickbait και την αποτίμηση πριν από την IPO. Η Αμερική Πρώτα. Πάντα”, είπε ο Davies.
Η Anthropic υπέβαλε εμπιστευτικά αίτηση για δημόσια εγγραφή στις ΗΠΑ τον περασμένο μήνα, μπροστά από την αντίπαλη OpenAI στην κούρσα για να βγει στις δημόσιες αγορές.
Εξελιγμένες επιθέσεις στον κυβερνοχώρο
Νωρίτερα αυτή την εβδομάδα, η Anthropic παρουσίασε ένα μοντέλο τεχνητής νοημοσύνης που ονομάζεται Claude Fable 5, το οποίο αντιπροσωπεύει ένα νέο επίπεδο ικανότητας που αποκαλεί “mythos-class”. Το μοντέλο συνοδεύεται από προστατευτικές ασπίδες που εμποδίζουν τη χρήση του σε επικίνδυνες περιοχές όπως η κυβερνοασφάλεια, για την οποία ορισμένοι χρήστες παραπονέθηκαν ότι ήταν «πολύ ευρεία», είπε η Anthropic.
Οι ειδικοί έχουν πει ότι τα μοντέλα μύθων, σε λάθος χέρια, μπορούν να επιταχύνουν δραματικά εξελιγμένες επιθέσεις στον κυβερνοχώρο, ειδικά σε τομείς όπως ο τραπεζικός κλάδος που βασίζονται σε πολύπλοκα, δικτυωμένα και συχνά δεκαετίες τεχνολογικά συστήματα.
Η Anthropic είπε ότι συνεργάστηκε με την αμερικανική κυβέρνηση για την ασφάλεια πριν από την κυκλοφορία του Fable, μεταξύ άλλων, και ότι μοντέλα από ανταγωνιστές πωλητές τεχνητής νοημοσύνης έχουν δείξει παρόμοια ικανότητα να εντοπίζουν μικρά σφάλματα στον κώδικα.
“Το καθαρό αποτέλεσμα αυτής της παραγγελίας είναι ότι πρέπει να κλείσουμε απότομα το Fable 5 και το Mythos 5 για όλους τους πελάτες μας για να διασφαλίσουμε τη συμμόρφωση. Η πρόσβαση σε όλα τα άλλα μοντέλα Anthropic δεν θα επηρεαστεί”, δήλωσε η Anthropic.
Διαβάστε περισσότεραΤι μας λέει το «μανιφέστο» του CEO της Palantir για το μεταβαλλόμενο πρόσωπο του πολέμου
Η Anthropic είπε ότι πιστεύει ότι υπήρξε μια “παρεξήγηση” και ότι εργάζεται για να αποκαταστήσει την πρόσβαση στα μοντέλα το συντομότερο δυνατό.
“Εάν αυτό το πρότυπο εφαρμοζόταν σε ολόκληρο τον κλάδο, πιστεύουμε ότι ουσιαστικά θα σταματούσε όλες τις αναπτύξεις νέων μοντέλων για όλους τους προμηθευτές μοντέλων συνόρων”, δήλωσε η εταιρεία.
Η μονάδα cloud AWS της Amazon δήλωσε αργά την Παρασκευή ότι η Anthropic της ζήτησε να αποσύρει την πρόσβαση στα μοντέλα για “όλους τους χρήστες σε όλες τις περιοχές”.
Ένας Αμερικανός αξιωματούχος επιβεβαίωσε ότι το Υπουργείο Εμπορίου έχει εκδώσει οδηγία για τον έλεγχο των εξαγωγών για την αναστολή κάθε πρόσβασης στο Fable 5 και στον Myth 5 από ξένους υπηκόους.
Ο Dean Ball, πρώην αξιωματούχος του Λευκού Οίκου που συνέβαλε στο Σχέδιο Δράσης AI που εξέδωσε η κυβέρνηση το καλοκαίρι του 2025, είπε σε μια ανάρτηση στο X ότι η εντολή αναφέρει ότι όλοι οι «μη Αμερικανοί» θα περιοριστούν στη χρήση των πιο πρόσφατων μοντέλων του Anthropic, συμπεριλαμβανομένων αυτών που εδρεύουν στις Ηνωμένες Πολιτείες.
“Αυτό σημαίνει ότι θα πρέπει να περιμένετε να αποδείξετε την υπηκοότητά σας για να χρησιμοποιήσετε ανθρωπικά μοντέλα”, είπε ο Ball. Αρκετά βασικά στελέχη της Anthropic, μεταξύ των οποίων ο συνιδρυτής Chris Olah, ο ερευνητής AI Andrej Karpathy και η φιλόσοφος Amanda Askell, γεννήθηκαν εκτός των Ηνωμένων Πολιτειών.
Το Reuters δεν μπόρεσε να προσδιορίσει το καθεστώς της υπηκοότητάς τους και ένας εκπρόσωπος της Anthropic αρνήθηκε να σχολιάσει εάν τέτοιοι υπάλληλοι θα έχαναν την πρόσβαση στο μοντέλο AI.
(FRANCE 24 με Reuters)