Το NSFW χρησιμοποιεί λογαριασμό για “περισσότερο από το μισό” της επισκεψιμότητας, λέει μια νέα έκθεση.
Η xAI έχει από καιρό προωθήσει το Grok ως πιο ρατσιστικό τύπο chatbot, με λιγότερα προστατευτικά κιγκλιδώματα από άλλες εταιρείες τεχνητής νοημοσύνης. Το είδαμε να παίζεται με κάποιους καταστροφικούς τρόπους κατά τη διάρκεια του περασμένου έτους, αλλά τώρα αποκτούμε κάποια εικόνα για το γιατί η εταιρεία είναι τόσο λυγισμένη σε αυτή τη στρατηγική παρά ορισμένες πραγματικές καταστροφές δημοσίων σχέσεων.
Αποδεικνύεται ότι οι δραστηριότητες του NSFW αντιπροσωπεύουν «περισσότερο από το ήμισυ» της κίνησης του Grok, σύμφωνα με Νέα έκθεση σε Πληροφορίες η οποία ανέφερε δύο πρώην υπαλλήλους της εταιρείας που ανήκει στο SpaceX. Αυτά περιλαμβάνουν τη χρήση του Grok για τη δημιουργία πραγματικού πορνό, καθώς και «συνομιλία για παιχνίδι ρόλων για ενήλικες» και «τεράστια αιτήματα για ερωτική».
Οι χρήστες του Grok έχουν ακόμη και προφανώς ανακαλύψει ότι είναι φθηνότερο να διοχετεύονται τέτοια αιτήματα μέσω των μοντέλων της εταιρείας για τη σύνταξη κώδικα, επειδή είναι φθηνότερα στη χρήση. Η έκθεση ανέφερε ότι μια εσωτερική ανάλυση διαπίστωσε ότι ένα «σημαντικό ποσοστό αιτημάτων» στο μοντέλο κωδικοποίησης αφορούσε «πορνογραφικές ή γυμνές εικόνες». Όλα αυτά υποδηλώνουν ότι η SpaceX θα μπορούσε να αποδώσει ένα αξιοπρεπές ποσό εσόδων από xAI σε πορνό και περιεχόμενο για ενηλίκους. Αν και η εισαγωγή του υλικού NSFW παραλείφθηκε κατά κάποιο τρόπο από τα έγγραφα της IPO της εταιρείας, η SpaceX είπε στους πιθανούς επενδυτές ότι τα πιο «άχαρα» χαρακτηριστικά του Grok αποτελούν πιθανό κίνδυνο. Είπε ότι διαθέτει 530 εκατομμύρια δολάρια για την αντιμετώπιση πιθανών νομικών δαπανών.
Η έκθεση υπογραμμίζει επίσης μερικούς από τους τρόπους με τους οποίους η τεχνητή νοημοσύνη περιπλέκει τις εσωτερικές υποθέσεις των εταιρειών. Πρώτον, οι μηχανικοί του xAI έπρεπε να καταλάβουν πώς να επιτρέψουν στον Grok να έχει σέξι συνομιλίες με χρήστες και να αποκλείσει τυχόν μηνύματα που θα μπορούσαν να οδηγήσουν σε περιεχόμενο σεξουαλικής κακοποίησης παιδιών. (Προφανώς, δεν υπήρχε «γρήγορη λύση» για το δίλημμα.)
Μερικοί υπάλληλοι ήταν λιγότερο από ενθουσιασμένοι που προσλήφθηκαν για να δουλέψουν στο “Ani”, τον σύντροφο avatar του Grok εμπνευσμένο από το anime στο NSFW. Άλλοι φέρεται να «ντροπιάστηκαν και ενοχλήθηκαν» από το σκάνδαλο που ακολούθησε, αφού ο Γκρόουκ παρήγαγε ένα σωρό σεξουαλικές εικόνες πραγματικών ανθρώπων, συμπεριλαμβανομένων παιδιών. Αργότερα ο Χ περιόρισε τη δυνατότητα χρήσης του Grok απευθείας στην πλατφόρμα για να δημιουργήσει συναρπαστικές επεξεργασίες από φωτογραφίες πραγματικών ανθρώπων, αλλά οι πελάτες που πληρώνουν xAI μπορούν ακόμα να δημιουργήσουν τέτοιο περιεχόμενο, δοκιμή υπάρχει θεμελιώ.
Υπάρχουν άλλες πιθανές προκλήσεις που θα μπορούσαν να προκύψουν από την εστίαση του Grok στο υλικό με βαθμολογία R. Η xAI έχει επιδιώξει επιθετικά κρατικές συμβάσεις και συμβάσεις με διάφορες υπηρεσίες και τον στρατό, ιδρύματα που κανονικά θα περίμενες να έχουν ελάχιστη ανοχή ακόμη και για την απομακρυσμένη NSFW. Όμως, ενώ η πολυδιαφημισμένη προσέγγιση του Grok μεταξύ των Deepfakes και CSAM έχει προκαλέσει πολλές μηνύσεις και έρευνες, δεν είναι σαφές εάν αυτά τα περιστατικά είχαν κάποιο αντίκτυπο στη σχέση του με την ομοσπονδιακή κυβέρνηση.