apple και google Σύμφωνα με επιστολές παύσης και παραίτησης που εστάλησαν σε εταιρείες που έλαβε το WIRED, τους δόθηκε εντολή να αφαιρέσουν εφαρμογές που επιτρέπουν στους ανθρώπους να «γδύνουν» ή να «γδύνουν» άτομα και να σταματήσουν να επωφελούνται από την επιβλαβή τεχνολογία.
Την Πέμπτη, ο εισαγγελέας της πόλης του Σαν Φρανσίσκο Ντέιβιντ Τσίου έστειλε νομικές ειδοποιήσεις στην Apple και την Google ζητώντας τους να αφαιρέσουν 13 εφαρμογές ανταλλαγής προσώπων που μπορούν να δημιουργήσουν γυμνές εικόνες που δημιουργούνται από τεχνητή νοημοσύνη χωρίς συναίνεση από τα καταστήματα εφαρμογών τους. Η επιστολή αναφέρει ότι οι μεγάλες εταιρείες της Silicon Valley θα πρέπει να σταματήσουν να “βοηθούν και να υποκινούν” την πώληση ρητών deepfake εικόνων και να “κόψουν” τις επιχειρηματικές σχέσεις με τους προγραμματιστές εφαρμογών.
«Η παραγωγή μη συναινετικών προσωπικών εικόνων είναι παράνομη, επιβλαβής και εντελώς απαράδεκτη», είπε ο Chiu στο WIRED. Ο δικηγόρος της πόλης, ο οποίος προηγουμένως κατέθεσε μήνυση κατά 16 δημοφιλών ιστοσελίδων deepfake, είπε ότι η Apple και η Google πιθανότατα «κερδίζουν εκατομμύρια δολάρια σε αμοιβές» από εφαρμογές που προσφέρουν γυμνό και ότι πρέπει να βελτιώσουν τις διαδικασίες ελέγχου για να αποτρέψουν την εμφάνισή τους στο κατάστημα.
«Αυτές οι εταιρείες έχουν την ευθύνη να διασφαλίσουν ότι οι εφαρμογές στις πλατφόρμες τους δεν διευκολύνουν τη σεξουαλική κακοποίηση», είπε ο Chiu. Η νομική επιστολή της πόλης λέει ότι απαγορεύεται σύμφωνα με τη νομοθεσία της Καλιφόρνια. υπηρεσία υποστήριξης Τι δημιουργεί deepfake πορνό. Σύμφωνα με την επιστολή, αυτές οι εφαρμογές χρησιμοποιούν πληρωμές εντός εφαρμογής, από τις οποίες οι εταιρείες τεχνολογίας λαμβάνουν περικοπή. «Το γεγονός ότι μερικές από τις μεγαλύτερες και πιο εδραιωμένες εταιρείες τεχνολογίας στον κόσμο διευκολύνουν αυτό πρέπει να σταματήσει».
Οι ερευνητές βρέθηκαν επανειλημμένα και αναφέρθηκε Εφαρμογές στο App Store της Apple και στο Play Store της Google που μπορούν να χρησιμοποιούν τεχνητή νοημοσύνη για τη δημιουργία σεξουαλικών εικόνων, συμπεριλαμβανομένων ορισμένων που βαθμολογούνται ως: κατάλληλο για παιδική χρήση. νέους νόμους και απαγορεύω Στόχος του είναι να αντιμετωπίσει τη μάστιγα των κραυγαλέων deepfakes στο διαδίκτυο, όπου οι εταιρείες τεχνολογίας και κοινωνικών μέσων κατευθύνουν συνεχώς εκατομμύρια ανθρώπους προς την επιβλαβή τεχνολογία.
και οι δύο μήλο και google Έχουμε πολιτικές προγραμματιστών που απαγορεύουν την πορνογραφία, την κατάχρηση και την παρενόχληση στην πλατφόρμα μας. Μέχρι στιγμής έχουν αφαιρέσει δεκάδες εφαρμογές γυμνισμού και ψεύτικης ανάλυσης μετά από αναφορές ερευνητών και δημοσιογράφων.
Ο εκπρόσωπος της Google, Dan Jackson, δήλωσε στο WIRED ότι η εταιρεία έχει αφαιρέσει “εκατοντάδες” εφαρμογές που είχαν τη δυνατότητα να απενεργοποιούν τις παραβιάσεις πολιτικής. Αυτό περιλαμβάνει πέντε εφαρμογές Android που αναφέρθηκαν από το γραφείο του Chiu και έχουν ληφθεί άλλα μέτρα για τον περιορισμό της πρόσβασης σε αυτές.
“Το Google Play δεν επιτρέπει εφαρμογές με σεξουαλικό περιεχόμενο και συνεχίζουμε να λαμβάνουμε προληπτικά μέτρα για τον εντοπισμό και την κατάργηση εφαρμογών με επιβλαβές περιεχόμενο”, δήλωσε ο Τζάκσον σε μια δήλωση. “Όταν αναφέρονται παραβιάσεις σε εμάς, ερευνούμε και λαμβάνουμε ταχέως μέτρα, συμπεριλαμβανομένης, στην περίπτωση αυτών των εφαρμογών, της αναστολής εκατοντάδων εφαρμογών που παραβιάζουν και του περιορισμού των σχετικών όρων αναζήτησης, όπως “γυμνό” στο Store.”
Η Apple δεν έδωσε κανένα σχόλιο πριν από τη δημοσίευση.
Κατά τη διάρκεια των τελευταίων πέντε ετών, μια εξαιρετικά προσοδοφόρα τεχνολογία “γυμνού” deepfake εμφανίστηκε στο διαδίκτυο. Προφανώς τον Ιανουάριο, το Grok του xAI χρησιμοποιήθηκε για τη δημιουργία εκατομμυρίων σεξουαλικών εικόνων. Πολλές εφαρμογές, ιστότοποι και bots επιτρέπουν στους ανθρώπους (κυρίως άντρες) να ανεβάζουν φωτογραφίες ανθρώπων (συντριπτικά γυναίκες και κορίτσια) και να τους βάζουν ψηφιακά να «γδύνονται» ή να τους τοποθετούν σε παραστατικά σεξουαλικά σενάρια.
Η δημιουργία ενός σεξουαλικού deepfake απαιτεί συχνά μόνο μια φωτογραφία αναφοράς και μερικά κλικ, με ορισμένα αποτελέσματα διαθέσιμα σε δευτερόλεπτα. Καθώς η υποκείμενη γενετική τεχνολογία AI βελτιώνεται, οι εικόνες και τα βίντεο γίνονται πιο ρεαλιστικά, με ορισμένες υπηρεσίες να προσφέρουν ορισμένα αποτελέσματα δωρεάν και άλλες να χρεώνουν μια μικρή χρέωση για τη δημιουργία επιβλαβούς περιεχομένου. Προηγούμενες αναφορές του WIRED και του Indicator Media αποκάλυψαν ότι τουλάχιστον 90 σχολεία δημιούργησαν ψευδείς εικόνες σεξουαλικής κακοποίησης ανηλίκων.
