Η Καλιφόρνια διερευνά την ανάπτυξη για CSAM που δημιουργούνται από AI και μη συμβατά Deepfakes

Οι αρχές της Καλιφόρνια ξεκίνησαν έρευνα για το xAI μετά από εβδομάδες αναφορών ότι το chatbot δημιουργούσε σεξουαλικές εικόνες παιδιών. “Το xAI φαίνεται να διευκολύνει τη μεγάλης κλίμακας παραγωγή βαθιάς ψεύτικων μη συναινετικών εικόνων για παρενόχληση γυναικών και κοριτσιών στο Διαδίκτυο, συμπεριλαμβανομένης της πλατφόρμας μέσων κοινωνικής δικτύωσης X”, ανέφερε το γραφείο του Γενικού Εισαγγελέα της Καλιφόρνια, Ρομπ Μπόντερ.

Η δήλωση ανέφερε μια αναφορά ότι «περισσότερες από τις μισές από τις 20.000 εικόνες που δημιουργήθηκαν από το xAI μεταξύ των Χριστουγέννων και της Πρωτοχρονιάς απεικόνιζαν ανθρώπους με μίνιμαλ ρούχα», μερικά από τα οποία φαινόταν να είναι παιδιά. «Έχουμε μηδενική ανοχή για παραγωγές που βασίζονται στην τεχνητή νοημοσύνη και την προώθηση μη συναινετικών εικόνων ή υλικού σεξουαλικής κακοποίησης παιδιών», είπε ο Μπόντα. «Σήμερα, το γραφείο μου ανακοίνωσε επίσημα μια έρευνα για το xAI για να διαπιστωθεί εάν και πώς η xAI παραβίασε το νόμο.

Η έρευνα ανακοινώθηκε καθώς ο κυβερνήτης της Καλιφόρνια Γκάβιν Νιούσομ κάλεσε επίσης τον Μπόντα να διερευνήσει το xAI. «Η απόφαση του xAI να δημιουργήσει και να φιλοξενήσει ένα γόνιμο έδαφος για τους δασκάλους να διαδίδουν απαράδεκτα σεξουαλικά σεξουαλικά ψεύτικα τεχνάσματα τεχνητής νοημοσύνης, συμπεριλαμβανομένων εικόνων που γδύνουν ψηφιακά τα παιδιά, είναι τρομακτική», έγραψε ο Newsom.

Οι αρχές της Καλιφόρνια δεν ήταν οι πρώτες που ερεύνησαν την εταιρεία μετά από εκτεταμένες αναφορές για υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) που δημιουργήθηκε από AI και μη συναινετικές προσωπικές εικόνες γυναικών. Η ρυθμιστική αρχή του Ηνωμένου Βασιλείου Ofcom έχει επίσης ξεκινήσει επίσημη έρευνα και αξιωματούχοι της Ευρωπαϊκής Ένωσης είπαν ότι εξετάζουν επίσης το θέμα. Η Μαλαισία και η Ινδονησία έχουν ενταχθεί στο μπλοκ GROC.

Την περασμένη εβδομάδα, η xAI άρχισε να επιβάλλει όρια ρυθμού στις δυνατότητες δημιουργίας εικόνων του Grok, αλλά μέχρι στιγμής έχει αρνηθεί να τραβήξει εντελώς την πρίζα. Όταν του ζητήθηκε να σχολιάσει την έρευνα στην Καλιφόρνια, η xAI απάντησε με ένα αυτοματοποιημένο email που έλεγε «ψέματα των κληροδοτημένων μέσων ενημέρωσης».

Νωρίτερα την Τετάρτη, ο Έλον Μασκ είπε ότι «δεν γνώριζε για γυμνές μικρές εικόνες που παρήγαγε ο Γκροκ». Σημειωτέον, αυτή η δήλωση δεν αντικρούει ευθέως τον ισχυρισμό της Μπόντα ότι ο Γκροκ χρησιμοποιείται «για να αλλοιώσει τις εικόνες των παιδιών για να τα απεικονίσει με ελάχιστα ρούχα και σεξουαλικές καταστάσεις». Ο Μασκ είπε ότι “η λειτουργική πολιτική του Groke είναι να συμμορφώνεται με το νόμο” και ότι η εταιρεία εργάζεται για να “προτρέψει την εισβολή των αντιπάλων του Groke”.