Ο Χ είπε ότι ο Γκροκ δεν θα επεξεργάζεται πλέον φωτογραφίες πραγματικών ανθρώπων με μπικίνι

Η X είπε ότι άλλαζε τις πολιτικές της σχετικά με τις δυνατότητες επεξεργασίας εικόνων του Grok μετά από μια διαμαρτυρία πολλών εβδομάδων για τις κατηγορίες ότι το chatbot παρήγαγε επανειλημμένα σεξουαλικές εικόνες παιδιών και μη συναινετικό γυμνό. Σε μια ενημέρωση που κοινοποιήθηκε από τον λογαριασμό @Safety στο X, η εταιρεία είπε ότι «εφάρμοσε τεχνικά μέτρα για να εμποδίσει τους λογαριασμούς Grok να επιτρέπουν την επεξεργασία εικόνων πραγματικών ανθρώπων με αποκαλυπτικά ρούχα, όπως μπικίνι».

Σύμφωνα με το X, τα νέα μέτρα ασφαλείας θα ισχύουν για όλους τους χρήστες, ανεξάρτητα από το αν πληρώνουν για το Grok. Το xAI μετακινεί επίσης όλες τις δυνατότητες δημιουργίας εικόνας της Grok πίσω από τα paywalls των πελατών της, ώστε οι χρήστες που δεν πληρώνουν να μην μπορούν πλέον να δημιουργούν εικόνες. Και θα γεωμπλοκάρει τη «δυνατότητα όλων των χρηστών να δημιουργούν εικόνες πραγματικών ανθρώπων με μπικίνι, εσώρουχα και παρόμοια ρούχα μέσω λογαριασμών Grok και μέσω Grok in X» σε παράνομες περιοχές.

Η δήλωση της εταιρείας έρχεται λίγες ώρες αφότου η πολιτεία της Καλιφόρνια άνοιξε μια έρευνα για το χειρισμό του περιεχομένου γυμνού και εκμετάλλευσης παιδιών από την xAI και την Grok που δημιουργείται από AI. Μια δήλωση του Γενικού Εισαγγελέα της Καλιφόρνια, Ρομπ Μπόντα, ανέφερε μια ανάλυση που βρήκε ότι «περισσότερες από τις μισές από τις 20.000 εικόνες που δημιουργήθηκαν από το xAI μεταξύ των Χριστουγέννων και της Πρωτοχρονιάς απεικόνιζαν ανθρώπους με μίνιμαλ ρούχα», μερικά από τα οποία φαινόταν να είναι παιδιά.

Στην ενημέρωσή της, η X είπε ότι έχει «μηδενική ανοχή» για την εκμετάλλευση παιδιών και ότι αφαίρεσε «περιεχόμενο υψηλής προτεραιότητας παραβίασης» από την πλατφόρμα της, συμπεριλαμβανομένου του «υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) και του γυμνού χωρίς συναίνεση». Νωρίτερα την ίδια ημέρα, ο Έλον Μασκ είπε ότι «δεν γνώριζε για γυμνές δευτερεύουσες εικόνες που παρήγαγε ο Γκροκ». Αργότερα πρόσθεσε ότι όταν είναι ενεργοποιημένη η ρύθμισή του NSFW, “ο Grok υποτίθεται (sic) επιτρέπει φανταστικό γυμνό για ενήλικες (όχι πραγματικό) στο πάνω μέρος του σώματος, σύμφωνα με αυτό που μπορεί να δει κανείς σε ταινίες με βαθμολογία R στο Apple TV.” Πρόσθεσε ότι «θα διαφέρει σε άλλες περιοχές» με βάση τους τοπικούς νόμους.

Τόσο η Μαλαισία όσο και η Ινδονησία προσπάθησαν πρόσφατα να μπλοκάρουν το Grok λόγω ανησυχιών για την ασφάλεια και του χειρισμού του σεξουαλικού περιεχομένου που δημιουργείται από AI. Στο Ηνωμένο Βασίλειο, όπου η ρυθμιστική αρχή Ofcom ερευνά επίσης το xAI και το Grok, οι αξιωματούχοι είπαν επίσης ότι θα υποστήριζαν ένα παρόμοιο μπλοκ chatbots.

Έχετε μια συμβουλή για την Karisa; Μπορείς να τον φτάσεις e-mailεπί Χ, Bluesky, νήμαΉ στείλτε ένα μήνυμα στο @karissabe.51 για να συνομιλήσετε ιδιωτικά στο Signal.