Η xAI, η οποία έχει ήδη αντιμετωπίσει πολλαπλές έρευνες σε όλο τον κόσμο για ευρέως διαδεδομένες αναφορές ότι ο Grok έκανε επανειλημμένα σεξουαλικές εικόνες παιδιών, αντιμετωπίζει τώρα μια ομαδική αγωγή. Τρεις έφηβοι, οι οποίοι ισχυρίζονται ότι οι φωτογραφίες τους χρησιμοποιήθηκαν από τον Γκροκ για τη δημιουργία υλικού εκμετάλλευσης παιδιών, κατέθεσαν ομαδική αγωγή κατά της xAI στην Καλιφόρνια.
Σύμφωνα με τη μήνυση, ένας από τους εφήβους ειδοποιήθηκε τον περασμένο Δεκέμβριο ότι κάποιος μοιράζεται φωτογραφίες και βίντεο της ίδιας και άλλων ανηλίκων που δημιουργήθηκαν από AI «σε περιβάλλοντα με τα οποία γνώριζε, αλλά μετατράπηκαν σε σεξουαλικές πόζες». Οι εικόνες και τα βίντεο φέρεται να κοινοποιήθηκαν στο Discord, το Telegram και άλλες πλατφόρμες και χρησιμοποιήθηκαν “ως εργαλείο ανταλλαγής” για άλλες εικόνες CSAM. Οι αξιωματούχοι επιβολής του νόμου που ερεύνησαν τις φωτογραφίες είπαν στους γονείς των κοριτσιών ότι ήταν φτιαγμένες με το Grok του xAi, αναφέρει η μήνυση.
Οι τρεις έφηβοι, που ζουν όλοι στο Τενεσί και ταυτοποιούνται ως Jane Doe 1, Jane Doe 2 και Jane Doe 3, υπέστησαν «σοβαρή συναισθηματική δυσφορία», ανέφερε η κατάθεση. «Οι ζωές τους καταστράφηκαν από την καταστροφική απώλεια της ιδιωτικής ζωής, της αξιοπρέπειας και της προσωπικής ασφάλειας που προέκυψε από την παραγωγή και τη διάδοση αυτού του CSAM», έγραψαν οι δικηγόροι των εφήβων στην καταγγελία, η οποία παραδόθηκε στο Engadget. “Το οικονομικό κέρδος της xAI μέσω της αυξημένης χρήσης των προϊόντων της για δημιουργία εικόνων και βίντεο έγινε εις βάρος και την ευημερία τους. Οι ενάγοντες πρέπει να ζήσουν το υπόλοιπο της ζωής τους γνωρίζοντας ότι οι εικόνες και τα βίντεό τους CSAM μπορεί να συνεχίσουν να διακινούνται και να διακινούνται διαδικτυακά από θηρευτές σεξουαλικών παιδιών.”
Αν και η μήνυση κατονομάζει επί του παρόντος τρία άτομα, η καταγγελία λέει ότι θα μπορούσε να καλύψει «τουλάχιστον χιλιάδες ανηλίκους» που χειραγωγήθηκαν τις φωτογραφίες τους από τον Γκροκ σε σεξουαλικές εικόνες. Η αγωγή ισχυρίζεται ότι η xAI παραβίασε πολλούς νόμους, συμπεριλαμβανομένου ενός νόμου που απαγορεύει την παραγωγή και τη διανομή υλικού κακοποίησης παιδιών.
Η xAI δεν απάντησε αμέσως σε αίτημα για σχολιασμό της αγωγής. Η εταιρεία βρίσκεται αντιμέτωπη με πολλαπλές έρευνες στις ΗΠΑ και την Ευρώπη για καταγγελίες για μη συναινετικό γυμνό από τον Grok. Ερευνητές στο Κέντρο Αντιμετώπισης Ψηφιακού Μίσους υπολόγισαν τον Ιανουάριο ότι ο Γκροκ είχε δημιουργήσει εκατομμύρια σεξουαλικές εικόνες, συμπεριλαμβανομένων 23.000 που απευθύνονταν σε παιδιά.
Ο Διευθύνων Σύμβουλος της xAI, Έλον Μασκ, ο οποίος προηγουμένως είχε διαφημίσει τις «πικάντικες» δυνατότητες του Γκροκ, ισχυρίστηκε ότι «δεν γνώριζε τυχόν γυμνές δευτερεύουσες εικόνες που δημιουργήθηκαν από τον Γκροκ». Η xAI ανακοίνωσε τον Ιανουάριο ότι θα σταματήσει να επιτρέπει στους χρήστες να χρησιμοποιούν το Grok για να επεξεργάζονται φωτογραφίες πραγματικών ανθρώπων με μπικίνι και να περιορίζουν τη δυνατότητα δημιουργίας εικόνων του Grok σε πελάτες που πληρώνουν.
Σύνδεσμος πηγής: www.engadget.com