Νωρίτερα αυτό το έτος αποκαλύφθηκε ότι η Apple και η Google πρόσφεραν εφαρμογές “Nudify” στα καταστήματά τους παρά τις σαφείς πολιτικές που αποτρέπουν τέτοιο περιεχόμενο. Σχεδόν τρεις μήνες αργότερα, τέτοιες εφαρμογές όχι μόνο εξακολουθούν να είναι διαθέσιμες, αλλά προωθούνται ενεργά στο iOS App Store και στο Google Play, σύμφωνα με μια νέα έκθεση. Έργο Τεχνικής Διαφάνειας (TTP). Πολλά από αυτά είχαν την ένδειξη “E” για όλους, που σημαίνει ότι μπορούσαν να τα κατεβάσουν τα παιδιά
Η αναζήτηση για “γυμνό”, “γδύσιμο” και άλλους όρους σε αυτά τα καταστήματα δίνει στους χρήστες πρόσβαση σε εφαρμογές που μπορούν να γδύσουν πραγματικούς ανθρώπους ή να τους τοποθετήσουν σε πορνογραφικά βίντεο. Η νέα έκθεση υποστηρίζει ότι «οι πλατφόρμες είναι βασικοί συμμετέχοντες στη διάδοση των εργαλείων τεχνητής νοημοσύνης που μπορούν να μετατρέψουν πραγματικούς ανθρώπους σε σεξουαλικές εικόνες». TTP Το App Store προβάλλει ακόμη και διαφημίσεις για παρόμοιες εφαρμογές γνωστοποίησης στα αποτελέσματα αναζήτησης. (Το EnGadget επικοινώνησε με την Apple και την Google για σχόλια.)
Η ομάδα εντόπισε 18 εφαρμογές Nudify στο App Store της Apple και 20 στο Google Play. Μερικά διατέθηκαν στο εμπόριο με σεξουαλικές εικόνες, άλλα δεν διαφημίστηκαν ως τέτοιες, αλλά θα μπορούσαν να χρησιμοποιηθούν για το deepfake. Σύμφωνα με την έκθεση, αυτές οι εφαρμογές απέφεραν συνολικά περίπου 122 εκατομμύρια δολάρια σε έσοδα και λήφθηκαν 483 εκατομμύρια φορές.
“Δεν είναι μόνο ότι οι εταιρείες στην πραγματικότητα αποτυγχάνουν να ελέγξουν σωστά αυτές τις εφαρμογές και να τις εγκρίνουν και να επωφεληθούν από αυτές.” TTP είπε η σκηνοθέτις Katie Paul Bloomberg. «Στην πραγματικότητα κατευθύνουν τους χρήστες στις ίδιες τις εφαρμογές».
Τόσο η Apple όσο και η Google έχουν πολιτικές που απαγορεύουν το σεξουαλικό ή πορνογραφικό περιεχόμενο και η Google έχει μια συγκεκριμένη πολιτική κατά των γυμνών εφαρμογών. είπε η Apple Bloomberg Ότι αφαίρεσε 15 εφαρμογές που προσδιορίστηκαν από την ομάδα, ενώ η Google είπε ότι ανέστειλε ορισμένες από αυτές. Μια εφαρμογή που αναφέρεται στην αναφορά ονομάζεται Video Face Swap AI: DeepFaceΔιαφημίζεται ανταλλάσσοντας το πρόσωπο μιας ηθοποιού με το σώμα μιας άλλης ηθοποιού και επιτρέπει στους χρήστες να βάλουν το πρόσωπο ενός πραγματικού προσώπου στο σώμα μιας μερικώς ντυμένης γυναίκας. Η εφαρμογή έχει βαθμολογία “E” για όλους.
Ο πολλαπλασιασμός των εφαρμογών nudify και deepfake έχει οδηγήσει ορισμένες κυβερνήσεις να προτείνουν νόμους εναντίον τους. Ο Επίτροπος για τα Παιδιά του Ηνωμένου Βασιλείου ζήτησε πρόσφατα την απαγόρευση των εφαρμογών τεχνητής νοημοσύνης deepfake που δημιουργούν γυμνές ή σεξουαλικές εικόνες παιδιών. Οι Ηνωμένες Πολιτείες και άλλες χώρες έχουν προτείνει ή έχουν δημιουργήσει νόμους για την απαγόρευση των προφανών deepfakes και ο γενικός εισαγγελέας της Καλιφόρνια έστειλε πρόσφατα εντολή παύσης και παραίτησης στο XK Grok του Elon Musk για προφανή deepfakes.
Ενημέρωση 16 Απριλίου στις 3:42 π.μ. ET: Η Google παρείχε τα ακόλουθα σχόλια στο Engadget:
“Το Google Play δεν επιτρέπει εφαρμογές που περιέχουν σεξουαλικό περιεχόμενο.”
-
Όταν μας αναφέρονται παραβιάσεις των πολιτικών μας, ερευνούμε και λαμβάνουμε τα κατάλληλα μέτρα.
-
Πολλές από τις εφαρμογές που αναφέρονται σε αυτήν την αναφορά έχουν τεθεί σε αναστολή από το Google Play λόγω παραβίασης των πολιτικών μας.
-
Η έρευνα και η διαδικασία επιβολής μας είναι σε εξέλιξη».
Σύνδεσμος πηγής: www.engadget.com