το πέταξε ο άνθρωπος Υποστήριξε το πρώτο κύμα νόμων για την ασφάλεια της τεχνητής νοημοσύνης αιχμής στις ΗΠΑ πέρυσι, διασφαλίζοντας νέες απαιτήσεις διαφάνειας στην Καλιφόρνια και τη Νέα Υόρκη, αλλά αντιτάχθηκε από μεγάλο μέρος της Silicon Valley, υποστηρίζοντας ότι θα περιόριζε την έκρηξη της τεχνητής νοημοσύνης. Αλλά η Anthropic λέει ότι αυτοί οι νόμοι μπορεί να είναι ήδη ξεπερασμένοι και η εταιρεία ζητά τώρα από τα κράτη να θεσπίσουν ακόμη αυστηρότερους κανονισμούς.
«Ο νόμος για την ασφάλεια διαφάνειας του 2025 ήταν μια πολύ σημαντική αρχή, αλλά καθώς οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης συνεχίζουν να εξελίσσονται γρήγορα, οι πολιτικές απαντήσεις πρέπει να ταιριάζουν», δήλωσε στο WIRED σε συνέντευξή του ο Cesar Fernandez, επικεφαλής των σχέσεων της πολιτείας και τοπικής αυτοδιοίκησης των ΗΠΑ στην Anthropic. «Πιστεύουμε ότι η διαφάνεια και η αυτοαναφορά δεν είναι πλέον επαρκείς διασφαλίσεις για τα πιο ισχυρά συστήματα τεχνητής νοημοσύνης».
Αυτή η υποστήριξη για τη ρύθμιση είναι ένα περίεργο μήνυμα που προέρχεται από μια startup που τώρα αξίζει σχεδόν 1 τρισεκατομμύριο δολάρια. Αλλά η Anthropic είναι μια περίεργη εταιρεία. Όπως έχουμε γράψει προηγουμένως, οι ηγέτες της Anthropic πιστεύουν ότι για να πετύχουν, πρέπει να δημιουργήσουν μια επιχείρηση μεγάλης κλίμακας που θα βασίζεται στην ανάπτυξη και πώληση πρόσβασης σε προηγμένη τεχνητή νοημοσύνη. αποστολή: «Δίνοντας τη δυνατότητα στον κόσμο να μεταβεί με ασφάλεια μέσω της καινοτόμου τεχνητής νοημοσύνης».
Καθώς η Anthropic έχει αναπτυχθεί, έχει αρχίσει να υπερασπίζεται ορισμένες από τις πιο σκληρές ρυθμιστικές προτάσεις της χώρας για τις συνοριακές εταιρείες τεχνητής νοημοσύνης. Πολλοί από αυτούς τους κανόνες έχουν σχεδιαστεί για να μετριάζουν τους καταστροφικούς κινδύνους της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της πιθανότητας προηγμένων μοντέλων να προκαλέσουν οικονομική καταστροφή ή μαζικούς θανάτους.
Πέρα από τις μεθόδους αυτοαναφοράς Καλιφόρνια και Νέα ΥόρκηΗ Anthropic υποστήριξε επίσης ένα μέτρο στο Ιλινόις που απαιτεί από τα εργαστήρια τεχνητής νοημοσύνης να αξιολογούν τις διαδικασίες ασφαλείας τους από τρίτους ελεγκτές. Πιο πρόσφατα, η εταιρεία ενέκρινε: Πολιτική της Μασαχουσέτης Θα απαιτούσε επίσης ελέγχους τρίτων σε εργαστήρια τεχνητής νοημοσύνης και θα δώσει στους γενικούς εισαγγελείς την εξουσία να ζητήσουν ασφαλιστικά μέτρα κατά των εταιρειών που δεν συμμορφώνονται.
Μίλησα με τον Fernandez αυτή την εβδομάδα για να καταλάβω πού οδεύει η πολιτική τεχνητής νοημοσύνης της εταιρείας. Ο Fernandez προσχώρησε στην Anthropic νωρίτερα αυτό το έτος αφού υπηρέτησε ως επικεφαλής των σχέσεων της αμερικανικής κυβέρνησης στον κολοσσό αθλητικών στοιχημάτων FanDuel και ανώτερος συνεργάτης δημόσιας πολιτικής στην Uber. Βοήθησε και τις δύο εταιρείες να κερδίσουν μάχες πολιτικής σε πολιτείες σε όλη τη χώρα. Η τεχνογνωσία του θα είναι πολύτιμη για την Anthropic καθώς το Κογκρέσο συνεχίζει να καθυστερεί τη θέσπιση κανονισμών για την τεχνητή νοημοσύνη και τα κράτη αναλαμβάνουν την ηγεσία.
«Ύποπτα» κίνητρα
Ενώ οι πολιτικές υπέρ της ρύθμισης της Anthropic έχουν επαινεθεί από ομάδες ασφάλειας τεχνητής νοημοσύνης, εργατικά συνδικάτα και άλλους συμμάχους της εταιρείας, ορισμένοι ηγέτες στη Silicon Valley ερμηνεύουν τις πολιτικές της προσπάθειες μέσα από έναν πιο απαίσιο φακό.
Ο Ντέιβιντ Σακς, πρώην τσάρος τεχνητής νοημοσύνης του Λευκού Οίκου και νυν σύμβουλος τεχνολογίας του Προέδρου Ντόναλντ Τραμπ, υποστήριξε ότι η Anthropic ουσιαστικά προσπαθούσε να περάσει επαχθή νόμους για να παγιδεύσει τις μικρές νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης στη γραφειοκρατία, διασφαλίζοντας έτσι τη θέση της ως ηγέτης στον αγώνα της τεχνητής νοημοσύνης.
«Η Anthropic εφαρμόζει μια εξελιγμένη ρυθμιστική στρατηγική εξαγοράς που βασίζεται στην πρόκληση φόβου», έγραψε ο Sachs στο άρθρο. αναρτήσεις στα μέσα κοινωνικής δικτύωσης πέρυσι. «Οι κυβερνήσεις είναι κατά κύριο λόγο υπεύθυνες για τον κρατικό ρυθμιστικό παροξυσμό που βλάπτει το οικοσύστημα των startup».
Ο Fernandez αρνήθηκε κατηγορηματικά τις κατηγορίες, επισημαίνοντας ότι η Anthropic υποστηρίζει μόνο την κρατική νομοθεσία για την τεχνητή νοημοσύνη που ισχύει για “δημιουργούς μοντέλων τεχνητής νοημοσύνης μεγάλης κλίμακας”. Ο ορισμός του όρου διαφέρει από λογαριασμό σε λογαριασμό, αλλά γενικά αναφέρεται σε εταιρείες που ξοδεύουν εκατοντάδες εκατομμύρια δολάρια για την ανάπτυξη τεχνητής νοημοσύνης και έχουν ετήσια έσοδα άνω των 500 εκατομμυρίων δολαρίων. «Είναι δύσκολο να φανταστεί κανείς μια startup που πληροί αυτά τα κριτήρια», είπε ο Fernandez.
Αλλά σε έναν κόσμο όπου η ανάπτυξη ανταγωνιστικών μοντέλων τεχνητής νοημοσύνης συνόρων απαιτεί τώρα δισεκατομμύρια δολάρια σε κεφάλαιο, υπάρχει μια χούφτα πολλά υποσχόμενες νεοσύστατες επιχειρήσεις που θα μπορούσαν ίσως σύντομα να πληρούν αυτά τα κριτήρια. Για να αναφέρουμε μερικά παραδείγματα: Ασφαλής σούπερ νοημοσύνηΤο Thinking Machines Lab και το Mistral έχουν συγκεντρώσει δισεκατομμύρια δολάρια από επενδυτές, αλλά τα έσοδά τους εξακολουθούν να είναι πολύ χαμηλότερα από τα Anthropic και OpenAI. Φυσικά, αυτές δεν είναι οι τρέχουσες νεοφυείς επιχειρήσεις σας, αλλά είναι πιθανοί ανταγωνιστές της Anthropic.
