Η κατηγορία xAI περιλαμβάνει όλα τα άτομα των ΗΠΑ των οποίων οι “πρωτότυπες εικόνες του εαυτού τους ως ανήλικοι” έχουν τροποποιηθεί χρησιμοποιώντας το Grok για τη “δημιουργία εικόνων ή βίντεο με σεξουαλικά υποδηλωτική συμπεριφορά, συμπεριλαμβανομένων των προσώπων τους και/ή άλλων ευλόγως αναγνωρίσιμων διακριτικών χαρακτηριστικών.” Και η κατηγορία Stability AI περιλαμβάνει άτομα των ΗΠΑ που βλάπτονται παρόμοια με τη χρήση “μιας εφαρμογής που βασίζεται στο μοντέλο Stability AI”.
Οι δικηγόροι εκτιμούν ότι χιλιάδες ανήλικοι μπορεί να έχουν δικαίωμα συμμετοχής στην τάξη και η AI CSAM μπορεί να συνεχίσει να αναζητά θύματα.
Το NCMEC δεν απάντησε στο αίτημα του Ars για σχόλιο.
Ωστόσο, η ομάδα κάλεσε την πλατφόρμα, τους νομοθέτες, τις υπηρεσίες προστασίας των παιδιών και τις υπηρεσίες επιβολής του νόμου να συνεργαστούν για να αντιμετωπίσουν την «αυξανόμενη επείγουσα ανάγκη για συντονισμένη δράση».
Τον Μάρτιο, το N.C.M.E.C να προειδοποιήσει «Απότομη ανάπτυξη» του «Generative AI» (GAI) το 2025. Σύμφωνα με το NCMEC, περισσότερες από 1,5 εκατομμύρια αναφορές στον κυβερνοχώρο έγιναν πέρυσι, «δείχνοντας μια σχέση μεταξύ GAI και σεξουαλικής εκμετάλλευσης παιδιών». Δυστυχώς, σε περισσότερες από 133.000 περιπτώσεις, το NCMEC “δεν είχε επαρκείς πληροφορίες για να καθορίσει πώς χρησιμοποιήθηκε η τεχνολογία.”
Αυτή η αναφορά δεν έλεγε X ή xAI, αλλά πρότεινε ότι είναι πιθανό για τις εταιρείες τεχνητής νοημοσύνης να αποφεύγουν να μοιράζονται πληροφορίες AI CSAM που θα μπορούσε να χρησιμοποιήσει η αστυνομία για να προβεί σε συλλήψεις. Για ένα άλλο παράδειγμα, το NCMEC σημείωσε ότι το Amazon AI Services υπέβαλε την πλειονότητα των συμβουλών (1,1 εκατομμύριο) και ότι καμία από αυτές τις συμβουλές δεν παρείχε “δυνατές πληροφορίες” που θα μπορούσαν να χρησιμοποιήσουν οι αρχές επιβολής του νόμου για τον εντοπισμό εγκληματιών.
Καθώς ο έλεγχος εντείνεται για τη ζημιά που προκαλείται στα παιδιά από εταιρείες τεχνητής νοημοσύνης, οι υποστηρικτές ελπίζουν ότι οι εταιρείες θα τελειοποιήσουν τα μοντέλα για να εμποδίσουν κάθε γυμνό. Τα κορίτσια που μήνυσαν τον X ισχυρίζονται ότι αυτή είναι η μόνη λύση, “επειδή εάν έχετε ένα μοντέλο που επιτρέπει σεξουαλικό ή προσβλητικό περιεχόμενο, είναι αδύνατο να αποτρέψετε αυτό το μοντέλο από τη δημιουργία περιεχομένου που περιλαμβάνει ανηλίκους”.
Στο δελτίο Τύπου, μια από τις δικηγόρους που εκπροσωπεί τους ανηλίκους, η Annika K. Martin κατηγόρησε την xAI και τη Stability AI ότι φέρεται να δημιούργησαν μοντέλα “ικανά να παράγουν deepfake CSAM” με “πλήρη αδιαφορία για την καταστροφικότητα που ήξεραν να επιδιώξουν”.
«Το CSAM που δημιουργείται από την τεχνητή νοημοσύνη είναι ένα πλήγμα για την κοινωνία που αγγίζει κάθε κοινότητα και κάθε πληθυσμό», είπε ο Μάρτιν. «Το μέγεθος της ζημίας είναι εκπληκτικό και οι εταιρείες των οποίων τα προϊόντα το επιτρέπουν πρέπει να λογοδοτήσουν».
