Δύο πρώην υπάλληλοι του OpenAI και μια ομάδα μη κερδοσκοπικών οργανισμών ασφάλειας τεχνητής νοημοσύνης προειδοποιούν ότι το εργαστήριο AI xAI του Elon Musk θα μπορούσε να αποτελέσει υποχρέωση για μελλοντικούς επενδυτές στη SpaceX, η οποία ετοιμάζεται να υποβάλει αίτηση για τη μεγαλύτερη αρχική δημόσια προσφορά στην ιστορία της Wall Street.
σε επιστολή Σε ένα έγγραφο επενδυτών που δόθηκε στη δημοσιότητα την Τρίτη, πρώην στελέχη τόνισαν αυτό που περιέγραψαν ως «χωρίς τιμή κινδύνους» που σχετίζονται με το xAI που θα μπορούσαν να περιπλέξουν τα αναφερόμενα σχέδια της SpaceX να συγκεντρώσει έως και 20 εκατομμύρια γιεν. 75 δισεκατομμύρια δολάρια Ως μέρος μιας δημόσιας εγγραφής. Μετά την απόκτηση του xAI πέρυσι, η ιδιωτική αποτίμηση της εταιρείας πυραύλων εκτινάχθηκε σε περισσότερα από 1 τρισεκατομμύριο δολάρια. Αν και ο Μασκ υποστήριξε ότι η εταιρεία πυραύλων του θα μπορούσε να εκτοξεύσει κέντρα δεδομένων στο διάστημα για το εργαστήριο τεχνητής νοημοσύνης του, οι συντάκτες της επιστολής υποστηρίζουν ότι το κακό ιστορικό του xAI σε θέματα ασφάλειας θα μπορούσε να περιπλέξει την άποψη των επενδυτών για τη συνδυασμένη εταιρεία καθώς προετοιμάζεται να υποβάλει προτάσεις. Υποβολή ενημερωτικού δελτίου IPO.
Ένας από τους υπογράφοντες και συν-συγγραφείς της επιστολής είναι ένας νέος μη κερδοσκοπικός οργανισμός που ονομάζεται Guidelight AI Standards, ο οποίος ιδρύθηκε από τον πρώην ερευνητή ασφαλείας του OpenAI Stephen Adler και την πρώην σύμβουλο πολιτικής OpenAI Paige Hedley. Ο όμιλος υποστηρίζεται από ιδιώτες δωρητές και στοχεύει στη βελτίωση των πρακτικών ασφαλείας σε εταιρείες τεχνητής νοημοσύνης αιχμής. Άλλοι μη κερδοσκοπικοί οργανισμοί ασφάλειας τεχνητής νοημοσύνης επίσης υπέγραψαν, συμπεριλαμβανομένων των Legal Advocates for Safe Science and Technology, Encode AI και The Midas Project.
Σε συνέντευξή του στο WIRED, ο Hedley είπε ότι πιστεύει ότι τα μέτρα ασφαλείας του xAI είναι τα χειρότερα «σχεδόν παντού» σε σύγκριση με άλλους προγραμματιστές συνοριακής τεχνητής νοημοσύνης όπως το OpenAI, το Google DeepMind και το Anthropic. Ως αποτέλεσμα, η SpaceX θα μπορούσε να αντιμετωπίσει μεγαλύτερους ρυθμιστικούς και δικαστικούς κινδύνους από άλλα εργαστήρια τεχνητής νοημοσύνης, υποστηρίζει.
Οι συντάκτες της επιστολής υποστηρίζουν ότι η SpaceX θα πρέπει να αποκαλύψει ορισμένες πληροφορίες στους επενδυτές, συμπεριλαμβανομένου του εάν η xAI σκοπεύει να συνεχίσει να αναπτύσσει μοντέλα τεχνητής νοημοσύνης συνόρων. SpaceX πρόσφατα Έχουμε συνάψει συμφωνία για την πώληση ενός σημαντικού μέρους της χωρητικότητας της GPU μας στην AnthropicΚαι η επιστολή υποστηρίζει ότι η συμφωνία «συσκοτίζει εάν η xAI παραμένει ένας ανταγωνιστής τεχνητής νοημοσύνης συνόρων σε μια μεγάλη εταιρεία χαρτοφυλακίου». Εάν η xAI συνεχίσει να αναπτύσσει μοντέλα τεχνητής νοημοσύνης συνόρων, θα πρέπει να της ζητηθεί να δημοσιεύσει σχέδια δημόσιας ασφάλειας και διακυβέρνησης, λένε οι συγγραφείς.
Η SpaceX και η xAI δεν απάντησαν αμέσως στα αιτήματα του WIRED για σχολιασμό.
Η επιστολή περιγράφει επίσης παραδείγματα για το πώς το xAI δεν ευθυγραμμίζεται με τις τυπικές πρακτικές ασφάλειας του κλάδου, συμπεριλαμβανομένης της δημοσίευσης ενός λεπτομερούς πλαισίου για τον μετριασμό των κινδύνων που σχετίζονται με μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούνται σε κυβερνοεπιθέσεις. Οι συγγραφείς περιγράφουν επίσης συγκεκριμένα περιστατικά ασφάλειας με το xAI που υποστηρίζουν ότι απαιτούν πρόσθετο έλεγχο. Το πιο αξιοσημείωτο είναι ότι το ναυαρχίδα του chatbot AI της xAI, ο Grok, ανέδειξε αυθόρμητα τη γενοκτονία των λευκών σε μια απάντηση. Σε μια άλλη περίπτωση, το xAI επέτρεψε στον Grok να δημιουργήσει χιλιάδες σεξουαλικές εικόνες γυναικών και παιδιών, οι οποίες διανεμήθηκαν ευρέως στην πλατφόρμα κοινωνικής δικτύωσης X του Musk. Η τελευταία υπόθεση ώθησε τουλάχιστον 37 γενικούς εισαγγελείς των ΗΠΑ να στείλουν επιστολή απαιτώντας από το εργαστήριο AI του Musk να λάβει μέτρα για την προστασία των γυναικών και των παιδιών στην πλατφόρμα του.
Η Hedley είπε ότι ο αριθμός των περιστατικών ασφαλείας που έχει βιώσει η xAI και η ρυθμιστική προσοχή που έχει λάβει είναι «πολύ δυσανάλογη με το μερίδιο αγοράς της». Νέοι κανονισμοί ασφαλείας θα μπορούσαν να είναι στον ορίζοντα, καθώς οι νομοθέτες γίνονται όλο και πιο επιφυλακτικοί σχετικά με τις δυνατότητες στον κυβερνοχώρο προηγμένων μοντέλων τεχνητής νοημοσύνης όπως το Claude Mythos της Anthropic. Η κυβέρνηση Τραμπ έχει ήδη εξετάστε το εκτελεστικό διάταγμα Αυτό θα επέτρεπε στις υπηρεσίες πληροφοριών των ΗΠΑ να αυξήσουν την επίβλεψή τους στα μοντέλα τεχνητής νοημοσύνης.
«Η μείωση των κινδύνων[ασφάλειας της τεχνητής νοημοσύνης]απαιτεί σοβαρές επενδύσεις και το xAI φαίνεται να έχει ιστορικά ανεπενδύσεις εδώ», είπε ο Adler. Αυτή η επιστολή αναφέρει ότι το xAI μόλιςδύο ή τρεις“Το ερώτημα που πρέπει να θέσουν οι επενδυτές είναι, εάν το xAI παραμείνει στα σύνορα, πόσο κοστίζει η πραγματική διαχείριση αυτών των[κινδύνων]υπεύθυνα; Ποιες είναι οι πιθανές συνέπειες αν δεν το κάνουμε;”
