Στους ενάγοντες περιλαμβάνονται δύο ανήλικοι και ένας ενήλικας που ήταν ανήλικος όταν συνέβησαν τα γεγονότα της αγωγής. Ένα θύμα, που ταυτοποιήθηκε ως «Jane Doe 1», ισχυρίζεται ότι έμαθε τον περασμένο Δεκέμβριο ότι οι εικόνες της ίδιας και τουλάχιστον 18 άλλων ανηλίκων που δημιουργήθηκαν από τεχνητή νοημοσύνη ήταν διαθέσιμες στο Discord. «Τουλάχιστον πέντε από αυτά τα αρχεία, ένα βίντεο και τέσσερις φωτογραφίες, απεικονίζουν το πραγματικό της πρόσωπο και το σώμα σε περιβάλλοντα που της ήταν οικεία, αλλά τα οποία μετατράπηκαν σε σεξουαλικά σαφείς πόζες», αναφέρει η μήνυση.
Ο δράστης, ο οποίος έκτοτε συνελήφθη, φέρεται να χρησιμοποίησε το CSAM της Jane Doe 1 που δημιουργήθηκε από AI «ως εργαλείο ανταλλαγής στις ομαδικές συνομιλίες του Telegram με εκατοντάδες άλλους χρήστες, ανταλλάσσοντας τα αρχεία CSAM της για σεξουαλικό περιεχόμενο άλλων ανηλίκων». Η μήνυση ισχυρίζεται ότι ο δράστης δημιούργησε σαφείς εικόνες της Jane Doe 1 και των δύο άλλων θυμάτων χρησιμοποιώντας το λογισμικό Grok. Ισχυρίζεται επίσης ότι το xAI “απέτυχε να δοκιμάσει τα χαρακτηριστικά που ανέπτυξε” και ότι ο Grok “είναι ελαττωματικός σχεδιαστικά”.
Αν και ο X προσπάθησε να δυσκολέψει τους χρήστες να επεξεργαστούν φωτογραφίες με το Grok, Ακρη Διαπίστωσα ότι ήταν ακόμα δυνατός ο χειρισμός εικόνων που ανέβηκαν στην πλατφόρμα. Ο Χ υποστήριξε ότι «όποιος χρησιμοποιεί ή πληρώνει το Grok για τη δημιουργία παράνομου περιεχομένου θα υποστεί τις ίδιες συνέπειες όπως αν ανέβαζε παράνομο περιεχόμενο». Ο Χ δεν απάντησε αμέσως ΑκρηΑίτημα για σχολιασμό.
Η Anika K είπε: «Πρόκειται για παιδιά των οποίων οι σχολικές φωτογραφίες και οι οικογενειακές τους φωτογραφίες μετατράπηκαν σε υλικό σεξουαλικής κακοποίησης παιδιών από το εργαλείο τεχνητής νοημοσύνης μιας εταιρείας δισεκατομμυρίων δολαρίων και στη συνέχεια κυκλοφόρησαν μεταξύ των αρπακτικών», είπε ο Martin, ένας από τους συνηγόρους των θυμάτων, από το Live Capraser, σε δήλωση. «Σκοπεύουμε να λογοδοτήσουμε το xAI για κάθε παιδί που βλάπτει με αυτόν τον τρόπο».
Η αγωγή ζητά αποζημίωση για τα θύματα που επηρεάζονται από τις «παράνομες εικόνες» του Γκροκ. Ζητεί επίσης από το δικαστήριο να εμποδίσει την xAI να δημιουργήσει και να αναπτύξει υποτιθέμενα όπλα CSAM που έχουν δημιουργηθεί από AI.
Σύνδεσμος πηγής: www.theverge.com