Η Meta είπε ότι έχει ενισχύσει την εφαρμογή της τεχνητής νοημοσύνης κατά της εκμετάλλευσης παιδιών, με νεότερα συστήματα που καλύπτουν τις γλώσσες που μιλούν το 98% των ανθρώπων στο διαδίκτυο.
Εικόνα: Σημειώστε ότι η εικόνα δημοσιεύεται μόνο για αντιπροσωπευτικούς σκοπούς. Φωτογραφία: Francis Mascarenhas – Reuters
Η Meta δημοσίευσε την Τρίτη ένα λεπτομερές ιστολόγιο στο οποίο περιγράφει τις προσπάθειές της για την καταπολέμηση του υλικού σεξουαλικής κακοποίησης παιδιών στις εφαρμογές της, επικαλούμενος ανίχνευση με τεχνητή νοημοσύνη, συστήματα ελέγχου διαφημίσεων και ευρεία μέτρα επιβολής, λίγες μέρες αφότου η κυβέρνηση εξέδωσε ειδοποίηση στον κολοσσό των μέσων κοινωνικής δικτύωσης σχετικά με αναφορές διαφημίσεων στο Instagram που προωθούν τέτοιο περιεχόμενο.
Βασικά σημεία
- Η Μέτα περιέγραψε την εκμετάλλευση παιδιών ως φρικτό έγκλημα και είπε ότι εργάζεται σκληρά καθημερινά για να καταπολεμήσει αυτό το είδος κακοποίησης εντός και εκτός της πλατφόρμας της.
- Η Meta είπε ότι θα ήταν εντελώς ανακριβές να προτείνει ότι εν γνώσει και σκόπιμα στοχεύει διαφημίσεις που εκθέτουν τα παιδιά σε άτομα με βάση ακατάλληλα ενδιαφέροντα.
- Πέρυσι, αφαίρεσε αυτόματα περισσότερους από 4 εκατομμύρια ύποπτους λογαριασμούς και 36 εκατομμύρια κομμάτια περιεχομένου παιδικής εκμετάλλευσης παγκοσμίως.
Η Μέτα περιέγραψε την εκμετάλλευση παιδιών ως φρικτό έγκλημα και είπε ότι εργάζεται σκληρά καθημερινά για να καταπολεμήσει αυτό το είδος κακοποίησης εντός και εκτός της πλατφόρμας της.
“Γνωρίζουμε τις πρόσφατες αναφορές ειδήσεων σχετικά με διαφημίσεις Instagram στην Ινδία που παραβίαζαν τις πολιτικές μας κατά της εκμετάλλευσης παιδιών. Θέλουμε να είμαστε σαφείς: λαμβάνουμε σοβαρά υπόψη αυτές τις ανησυχίες, δεν θα θέλαμε ποτέ αυτό το περιεχόμενο στις πλατφόρμες μας και δεσμευόμαστε να βελτιώσουμε τις προσπάθειές μας για την καταπολέμησή του.”
Η Meta είπε ότι θα ήταν εντελώς ανακριβές να προτείνει ότι εν γνώσει και σκόπιμα στοχεύει διαφημίσεις που εκθέτουν τα παιδιά σε άτομα με βάση ακατάλληλα ενδιαφέροντα.
«Το αντίθετο, χρησιμοποιούμε την τεχνολογία για να εντοπίσουμε λογαριασμούς που εμφάνιζαν δυνητικά ύποπτη δραστηριότητα που σχετίζεται με παιδιά και αφαιρέσαμε αυτόματα περισσότερους από 4 εκατομμύρια από αυτούς τους λογαριασμούς το περασμένο έτος», είπε ο Meta.
Η Meta είπε ότι έχει ενισχύσει την εφαρμογή της τεχνητής νοημοσύνης κατά της εκμετάλλευσης παιδιών, με νεότερα συστήματα που καλύπτουν τις γλώσσες που μιλούν το 98% των ανθρώπων στο διαδίκτυο.
Πέρυσι, αφαίρεσε αυτόματα περισσότερους από 4 εκατομμύρια ύποπτους λογαριασμούς και 36 εκατομμύρια κομμάτια περιεχομένου παιδικής εκμετάλλευσης παγκοσμίως.
Στην Ινδία, τα εργαλεία τεχνητής νοημοσύνης βοήθησαν στην κατάργηση 1.60.000 λογαριασμών τους τελευταίους έξι μήνες για δημοσίευση ύποπτων συνδέσμων που συνδέονται με εκμεταλλευτική δραστηριότητα.
Ανέφερε επίσης ότι προτού γνωστοποιηθούν αυτά τα ζητήματα, τα συστήματα επιβολής της είχαν ήδη εντοπίσει και απενεργοποιήσει αρκετές διαφημίσεις που παραβιάζουν και τους λογαριασμούς πίσω από αυτές.
«Η μετέπειτα έρευνά μας οδήγησε σε πρόσθετες ενέργειες, συμπεριλαμβανομένης της κατάργησης περισσότερων διαφημίσεων, της απενεργοποίησης λογαριασμών και του αποκλεισμού διευθύνσεων URL που σχετίζονται με περιεχόμενο που παραβιάζει την πολιτική», σημείωσε.
Η Meta, ένας τεχνολογικός γίγαντας του Menlo Park της Καλιφόρνια, κατέχει δημοφιλείς πλατφόρμες κοινωνικών μέσων όπως το Facebook, το Instagram και το WhatsApp.
“Έχουμε προηγμένα εργαλεία ανίχνευσης με τεχνητή νοημοσύνη που έχουν δημιουργηθεί για να αναγνωρίζουν πότε άτομα δημοσιεύουν ύποπτους συνδέσμους εκτός πλατφόρμας σε συντονισμό με άλλα σήματα που υποδεικνύουν δραστηριότητα εκμετάλλευσης παιδιών. Μόνο τους τελευταίους έξι μήνες, αυτό οδήγησε στην κατάργηση 1.60.000 λογαριασμών στην Ινδία”, είπε ο Meta.
Κυβερνητικές πηγές ανέφεραν στο PTI ότι αναμένεται η επίσημη απάντηση του Meta στην ανακοίνωση του Σαββάτου.
Πρόσθεσαν ότι η εστίαση της κυβέρνησης θα είναι στα διορθωτικά μέτρα και ενέργειες που θα λάβει η εταιρεία για την αντιμετώπιση όλων των ανησυχιών.
Την περασμένη εβδομάδα, η κυβέρνηση εξέδωσε αυστηρή ειδοποίηση προς τη Meta σχετικά με υλικό σεξουαλικής εκμετάλλευσης και κακοποίησης παιδιών (CSEAM) σε πληρωμένες διαφημίσεις στο Instagram.
Το MeitY (Υπουργείο Ηλεκτρονικής και Πληροφορικής) διέταξε το Instagram να απενεργοποιήσει όλες τις διαφημίσεις και το περιεχόμενο που προωθούν και διευκολύνουν την πρόσβαση στο CSEAM και ζήτησε επίσης λεπτομερή εξήγηση εντός επτά ημερών.
Η ενέργεια προέκυψε αφού ο υπουργός πληροφορικής Ashwini Vaishnaw έδωσε εντολή στους αξιωματούχους της MeitY να καλέσουν τον Meta για διαφημίσεις στο Instagram που φέρεται να προωθούσαν υλικό σεξουαλικής κακοποίησης παιδιών.
Ο ρυθμιστικός έλεγχος από το τμήμα ήρθε εν μέσω αναφοράς του BBC ότι ο φερόμενος αλγόριθμος συστάσεων του Meta προωθούσε βίντεο που περιείχαν υλικό σεξουαλικής κακοποίησης παιδιών, αποκαλύπτοντας σοβαρά κενά στις διασφαλίσεις.
Η έρευνα του BBC φέρεται επίσης να βρήκε διαφημίσεις αυτού του τύπου να εμφανίζονται στο Facebook και το Instagram, παρά τις διαφημιστικές πολιτικές της Meta που απαγορεύουν ρητά το γυμνό και το σεξουαλικό περιεχόμενο.
Το Instagram φέρεται να έβγαζε πληρωμένες διαφημίσεις με όρους όπως «βίντεο βιασμού» και «βίντεο μωρού», οι οποίες κατευθύνουν τους χρήστες σε κανάλια Telegram όπου λέγεται ότι τέτοιο περιεχόμενο πωλείται.
Σε μια ανάρτηση ιστολογίου την Τρίτη, η Meta είπε ότι η διαδικασία ελέγχου διαφημίσεων συνδυάζει αυτοματοποιημένα συστήματα και ανθρώπινους αναθεωρητές για τον εντοπισμό και την κατάργηση διαφημίσεων που παραβιάζουν την πολιτική, ενώ αναγνωρίζει ότι κανένα σύστημα δεν μπορεί να εντοπίσει κάθε παραβίαση.
Οι διαφημίσεις σαρώνονται πριν από την προβολή και υπόκεινται σε συνεχή έλεγχο και επανέλεγχο, ενώ οι χρήστες μπορούν επίσης να αναφέρουν ύποπτες παραβιάσεις, σύμφωνα με την εταιρεία.
Η Meta είπε ότι παρακολουθεί τη συμπεριφορά των διαφημιζόμενων καθώς και μεμονωμένες διαφημίσεις και ενδέχεται να απορρίψει διαφημίσεις ή να περιορίσει τους επαγγελματικούς λογαριασμούς, τους διαφημιστικούς λογαριασμούς, τις Σελίδες και τους λογαριασμούς χρηστών των διαφημιζόμενων που διαπιστώνεται ότι παραβιάζουν τις πολιτικές της.
Η εταιρεία μέσων κοινωνικής δικτύωσης σημείωσε ότι συνεχίζει να ενισχύει τα συστήματα ελέγχου και επιβολής διαφημίσεων για να κρατήσει τους κακούς ηθοποιούς μακριά από τις πλατφόρμες της και να προστατεύσει καλύτερα τους χρήστες.
«Είμαστε δεσμευμένοι να κρατάμε τους κακούς ηθοποιούς μακριά από τις πλατφόρμες μας και εξελίσσουμε συνεχώς τα συστήματά μας ώστε να είμαστε μπροστά από την καμπύλη», είπε. «Η προστασία των ανθρώπων που χρησιμοποιούν τις πλατφόρμες μας παραμένει στο επίκεντρο του τρόπου με τον οποίο χτίζουμε και επιβάλλουμε τα διαφημιστικά μας πρότυπα».
Υπογραμμίζοντας την προσέγγισή της με μηδενική ανοχή στο θέμα, η Meta είπε ότι έχει λεπτομερείς και σθεναρές πολιτικές κατά του γυμνού, της κακοποίησης και της εκμετάλλευσης των παιδιών, οι οποίες περιλαμβάνουν την κοινοποίηση ή την προσέλκυση εικόνων εκμετάλλευσης παιδιών, τις ακατάλληλες αλληλεπιδράσεις με εφήβους και τη σεξουαλικότητα ανηλίκων.
“Όπως αναφέρεται στα Διαφημιστικά μας Πρότυπα, όλες οι διαφημίσεις πρέπει να συμμορφώνονται με τα κοινοτικά μας πρότυπα για τη σεξουαλική εκμετάλλευση, την κακοποίηση και το γυμνό παιδιών. Οι διαφημίσεις δεν πρέπει να περιέχουν περιεχόμενο που εκμεταλλεύεται σεξουαλικά ή εκθέτει παιδιά”, είπε.
Η Meta είπε ότι αναφέρει εμφανείς περιπτώσεις εκμετάλλευσης παιδιών στις αρχές επιβολής του νόμου μέσω του Εθνικού Κέντρου για Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά (NCMEC), δημοσιεύει εκθέσεις διαφάνειας σε παγκόσμιο επίπεδο και ειδικές στην Ινδία και έχει διορίσει αξιωματούχους νομικής συμμόρφωσης (Chief Compliance Officer, Grievance Officer και Nodal Liaison Officer) σύμφωνα με τους κανόνες πληροφορικής της Ινδίας.
Η εταιρεία είπε ότι συνεργάζεται με τη βιομηχανία και τις αρχές επιβολής του νόμου για την καταπολέμηση της διαδικτυακής εκμετάλλευσης παιδιών εκτός των δικών της πλατφορμών.
Υπογραμμίζοντας τους τρόπους με τους οποίους υποστηρίζει τις προσπάθειες σε όλο τον κλάδο, μίλησε για την ιδρυτική του συμμετοχή στο πρόγραμμα Lantern της Technology Alliance για κοινή χρήση πληροφοριών μεταξύ πλατφορμών σε ληστρικούς λογαριασμούς και προσπάθειες αποκλεισμού συνδέσμων σε ιστότοπους τρίτων που φιλοξενούν προσβλητικό περιεχόμενο.
Η Meta είπε επίσης ότι υποστηρίζει το εργαλείο “Take It Down” του NCMEC, το οποίο βοηθά στην αποτροπή της διάδοσης προσωπικών εικόνων νέων στο διαδίκτυο.
«Το 2019, παίξαμε καθοριστικό ρόλο στη δημιουργία της σχέσης της Ινδίας με το NCMEC, δίνοντας τη δυνατότητα στις τοπικές αρχές επιβολής του νόμου να λαμβάνουν αναφορές και να αναλαμβάνουν δράση για παραβατικές δραστηριότητες», είπε ο Mita. Ο Meta επιβεβαίωσε ότι αυτή η εργασία βρίσκεται σε εξέλιξη.
“Οι ομάδες μας εργάζονται συνεχώς για να βελτιώσουν τις άμυνές μας – αναπτύσσοντας νέα τεχνολογία, μπλοκάροντας καταχρηστικούς συνδέσμους και μοιράζονται πληροφορίες σε όλη τη βιομηχανία – αλλά γνωρίζουμε ότι πρέπει να κάνουμε περισσότερα. Θα συνεχίσουμε να επενδύουμε σε κάθε απαραίτητο πόρο για να κρατάμε τους νέους ασφαλείς, να ενισχύσουμε τις διαδικασίες ελέγχου διαφημίσεων και να συνεργαζόμαστε με τις αρχές επιβολής του νόμου για να λογοδοτήσουμε τους εγκληματίες.”
