Η μητέρα ενός παιδιού του Έλον Μασκ μηνύει το xAI για απαράδεκτες deepfake εικόνες

Ενώ ο X έχει αφαιρέσει την ικανότητα του Grok να δημιουργεί ψηφιακά φωτογραφίες χωρίς ρούχα σε κοινωνικές πλατφόρμες, η αυτόνομη εφαρμογή Grok είναι μια άλλη ιστορία. Σύμφωνα με πληροφορίες, δημιουργούσε «γυμνές» βαθιές πλαστογραφίες πραγματικών ανθρώπων. Και τώρα, η Ashley St. Clair, μια συντηρητική πολιτική στρατηγική και μητέρα ενός από τα 14 παιδιά του Elon Musk, μηνύει την xAI για τις μη συναινετικές σεξουαλικές της εικόνες που ισχυρίζεται ότι είναι χονδροειδείς.

Στη μήνυση που κατατέθηκε στο δικαστήριο, η St. Clair κατηγόρησε το chatbot του xAI Grok ότι δημιούργησε και διέδιδε βαθιά ψεύτικα με το ότι «πήρε ένα παιδί με κορδόνι μπικίνι και ως ενήλικη σε σεξουαλικά υποβλητική στάση, καλυμμένο με σπέρμα ή φορούσε μόνο νήμα μπικίνι». Σε ορισμένες περιπτώσεις, το chatbot φέρεται να δημιούργησε ένα deepfake με μπικίνι της St. Clair με βάση μια φωτογραφία της ως 14χρονης. “Οι άνθρωποι με έβγαλαν φωτογραφίες ως παιδί και με έγδυσαν. Υπάρχει ένα που με έγδυσαν και με έσκυψαν, και στο βάθος είναι το σακίδιο του παιδιού μου που φοράει τώρα”, είπε.

«Βλέπω επίσης φωτογραφίες όπου σημαδεύουν γυναίκες, τις χτυπούν, τις δένουν, τις ακρωτηριάζουν», είπε ο Σεντ Κλερ. The Guardian. «Αυτοί οι άρρωστοι έπρεπε να πάνε στα σκοτεινά βάθη του Διαδικτύου και τώρα είναι σε μια mainstream εφαρμογή κοινωνικής δικτύωσης».

Η St. Clair είπε ότι, αφού ανέφερε τις εικόνες στο X, η κοινωνική πλατφόρμα απάντησε ότι το περιεχόμενο δεν παραβιάζει καμία πολιτική. Επιπλέον, ισχυρίστηκε ότι ο Χ κράτησε τις αναρτημένες εικόνες έως και επτά ημέρες μετά την αναφορά τους. Ο St. Clair είπε ότι το xAI στη συνέχεια ανταπέδωσε εναντίον του δημιουργώντας περισσότερα ψηφιακά αποκαλυμμένα βαθιά ψεύτικα, έτσι “(St. Clair) έγινε ο περίγελος των πλατφορμών κοινωνικής δικτύωσης.”

Κατηγόρησε την εταιρεία ότι ανακάλεσε τη συνδρομή X Premium, το σημάδι ελέγχου επαλήθευσης και τη δυνατότητα δημιουργίας εσόδων από περιεχόμενο στην πλατφόρμα. “Η XAI απαγόρευσε περαιτέρω (του) να επαναγοράσει ασφάλιστρα”, ανέφερε η κατάθεση του δικαστηρίου στο Σεντ Κλερ.

Την Τετάρτη, η X είπε ότι άλλαξε τις πολιτικές της έτσι ώστε ο Γκροκ να μην παράγει πλέον σεξουαλικές εικόνες παιδιών ή γυμνό χωρίς συναινετική βάση «σε δικαιοδοσίες όπου είναι παράνομο». Ωστόσο, η αυτόνομη εφαρμογή Grok συνεχίζει να τραβάει γδύσιμο φωτογραφίες και να κάνει σεξ όταν της ζητηθεί.

Η Apple και η Google μέχρι στιγμής δεν έχουν κάνει απολύτως τίποτα. Παρά τις εβδομάδες αγανάκτησης για τα deepfakes – και μια ανοιχτή επιστολή από 28 ομάδες υπεράσπισης – καμία εταιρεία δεν έχει αφαιρέσει τις εφαρμογές X ή Grok από τα καταστήματα εφαρμογών της. Τόσο το App Store όσο και το Play Store έχουν πολιτικές που απαγορεύουν ρητά τις εφαρμογές που δημιουργούν τέτοιο περιεχόμενο.

Ούτε η Apple ούτε η Google απάντησαν σε πολλά αιτήματα για σχόλια από το Engadget. Αυτό περιλάμβανε ένα επόμενο email που στάλθηκε την Παρασκευή, σχετικά με την εφαρμογή Grok που συνεχίζει να “γυμνώνει” φωτογραφίες πραγματικών γυναικών και άλλων ανθρώπων.

Ενώ η Apple και η Google απέτυχαν να δράσουν, πολλές κυβερνήσεις έκαναν το αντίθετο. Η Μαλαισία και η Ινδονησία απαγόρευσαν το gro τη Δευτέρα. Την ίδια ημέρα, η ρυθμιστική αρχή του Ηνωμένου Βασιλείου Ofcom ξεκίνησε επίσημη έρευνα για το X. Η Καλιφόρνια άνοιξε την Τετάρτη. Η Γερουσία των ΗΠΑ ενέκρινε ακόμη και τον Άμυνας Νόμο για δεύτερη φορά μετά τη διαμάχη.

«Αν είσαι γυναίκα, δεν μπορείς να δημοσιεύσεις φωτογραφία και δεν μπορείς να μιλήσεις ή κινδυνεύεις από αυτή την κακοποίηση», είπε η Σεντ Κλερ. The Guardian. “Είναι επικίνδυνο, και πιστεύω ότι είναι από τη σχεδίασή του. Η τεχνητή νοημοσύνη σας υποτίθεται ότι τρέφεται από την ανθρωπότητα και τη σκέψη, και όταν κάνετε κάτι που επηρεάζει ειδικά τις γυναίκες και δεν θέλουν να συμμετάσχουν επειδή στοχοποιούνται, αυτό σημαίνει ότι η τεχνητή νοημοσύνη θα είναι εγγενώς προκατειλημμένη.”

Μιλώντας για τον Μασκ και την ομάδα του, πρόσθεσε ότι “αυτοί οι άνθρωποι πιστεύουν ότι είναι υπεράνω του νόμου, γιατί είναι. Δεν πιστεύουν ότι θα βρεθούν σε μπελάδες, πιστεύουν ότι δεν έχουν καμία συνέπεια”.