Το Grok chatbot του Έλον Μασκ προφανώς εξακολουθεί να χρησιμοποιείται για τη δημιουργία και τη φιλοξενία ακατάλληλων εικόνων και βίντεο γυναικών χωρίς τη συγκατάθεσή τους, μήνες αφότου η εταιρεία τεχνητής νοημοσύνης xAI του Μασκ ανακοίνωσε ότι εισήγαγε περιορισμούς για να σταματήσει τη δημιουργία δυνητικά επιβλαβών σεξουαλικών πλαστών. Η αποκάλυψη έρχεται καθώς η μητρική εταιρεία του xAI, SpaceX, ετοιμάζεται να βγει στο χρηματιστήριο την Παρασκευή σε μια από τις μεγαλύτερες IPO στην ιστορία.
Το σύστημα τεχνητής νοημοσύνης που δημιουργήθηκε από την Grok Imagine έχει χρησιμοποιηθεί για τη δημιουργία και τη φιλοξενία εικόνων και βίντεο που απεικονίζουν διασημότητες και τουλάχιστον έναν πολιτικό να κρατείται παρά τη θέλησή τους από έναν μεγαλόσωμο άνδρα, να απεικονίζει γυναίκες να κάνουν σεξουαλικές πράξεις και να επιτρέπει πλήρη γυμνό, βρέθηκε μια ανάλυση WIRED δημοσίων έργων. Ορισμένες από τις εικόνες και τα βίντεο είναι εντελώς δημιουργημένα από AI ή έχουν στυλ κινουμένων σχεδίων, ενώ άλλα είναι φωτορεαλιστικά και απεικονίζουν εύλογα σενάρια πραγματικού κόσμου.
Το WIRED εξέτασε εκατοντάδες δημόσιους συνδέσμους Grok Imagine που φιλοξενήθηκαν στο Grok.com και διαπίστωσε ότι οδήγησαν σε δεκάδες εικόνες και βίντεο σεξουαλικής τεχνητής νοημοσύνης, μερικά από τα οποία δημιουργήθηκαν χωρίς τη συγκατάθεση των υποκειμένων. Ορισμένοι από τους συνδέσμους που δημιουργήθηκαν στο Grok.com έχουν από τότε κοινοποιηθεί στο X, συμπεριλαμβανομένου του πρόσφατου. Η ανάρτηση δεν εμφανίζει χρονική σήμανση δημιουργίας, αλλά επειδή οι γενιές δεν φαίνεται να δημοσιεύονται από προεπιλογή, είναι πιθανό να είναι απλώς μια στιγμιότυπο του τι έχουν δημιουργήσει οι άνθρωποι χρησιμοποιώντας το σύστημα Grok Imagine.
Άλλα συστήματα τεχνητής νοημοσύνης που δημιουργούνται έχουν εισαγάγει περισσότερα προστατευτικά κιγκλιδώματα από το Grok, το οποίο είναι διαθέσιμο στον ιστότοπό του και στο X. «Οι Grok και X μπορεί να έχουν κάνει κάποιες αλλαγές στο μοντέλο τους, ειδικά μετά την αντίδραση γυμνού νωρίτερα φέτος, αλλά δεν έχουν κάνει ακόμα αρκετά για να το φέρουν στα πρότυπα άλλων mainstream διαθέσιμων εργαλείων», λέει ο Henry Ajdar δεκαετία.
Το xAI του Musk βρίσκεται κάτω από ένα κύμα μηνύσεων και ρυθμιστικού ελέγχου σε όλο τον κόσμο από τον Ιανουάριο, όταν μια εφαρμογή Grok στο X χρησιμοποιήθηκε για τη δημιουργία μιας μάζας «γυμνών» εικόνων. X χρήστες (κυρίως άντρες) ζήτησαν από το chatbot να επεξεργαστεί μια εικόνα για να δείξει μια γυναίκα να φοράει «μπικίνι» ή «μπικίνι με κορδόνια». Σε ορισμένες περιπτώσεις, Εικόνες σαφώς ανηλίκων Μια ομαδική αγωγή που κατατέθηκε στο ομοσπονδιακό δικαστήριο της Καλιφόρνια τον Μάρτιο ισχυρίζεται ότι οι γυναίκες αντιμετωπίζονταν επίσης ως σεξουαλικά αντικείμενα.
Έκτοτε, η xAI ανακοίνωσε ότι εισήγαγε διασφαλίσεις για τον περιορισμό και την πρόληψη της δημιουργίας μη συναινετικών σεξουαλικών ψεύτικα. Η εταιρεία έχει δηλώσει επανειλημμένα ότι το υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) απαγορεύεται στην πλατφόρμα της.
Ούτε το xAI ούτε το X απάντησαν αμέσως στα αιτήματα του WIRED για σχολιασμό σχετικά με τον μεγάλο αριθμό σεξουαλικών εικόνων που φιλοξενούνται στο Grok.com. Όταν το WIRED επικοινώνησε με αυτές τις εταιρείες, φαίνεται ότι οι ακατάλληλες εικόνες και τα βίντεο που βρήκε το WIRED φιλοξενούνται στο Grok.com δεν είναι πλέον διαθέσιμα και ο σύνδεσμος Grok Imagine που κοινοποιήθηκε στο X έχει καταργηθεί ως παράβαση πολιτικής. «Απαγορεύουμε αυστηρά στους χρήστες να δημιουργούν μη συναινετικά ρητά deepfakes ή να χρησιμοποιούν τα εργαλεία μας για να γδύνουν πραγματικούς ανθρώπους», ανέφερε ο Λογαριασμός X Safety. είπε τον Απρίλιο Κάλυψη NBC για σεξουαλικά deepfakes Ακόμα υπό κατασκευή.
Το WIRED εντόπισε εικόνες και βίντεο που απεικονίζουν πολλές διασημότητες και την εκπρόσωπο των ΗΠΑ, Alexandria Ocasio-Cortez, μεταξύ των αναρτήσεων που φιλοξενήθηκαν στο Grok.com. (Ένας εκπρόσωπος του Ocasio-Cortez δεν απάντησε αμέσως στο αίτημα του WIRED για σχολιασμό.) Το βίντεο έδειχνε λιγοφορεμένες γυναίκες να κρατούνται στη γροθιά του «γίγαντα» χεριού ενός άνδρα. Μια προτροπή περιγράφει μια διασημότητα που κρατήθηκε παρά τη θέλησή της επειδή «τον παρακάλεσε να μην το κάνει αυτό». Και πρόσθεσε: «Καθώς ο μεγαλόσωμος άνδρας που την κρατούσε έγειρε και έγλειφε το πρόσωπό της πάνω-κάτω, το γιγάντιο χέρι έσφιξε τη λαβή του πάνω της, κρατώντας την στη θέση της».
