Το Εθνικό Κέντρο για Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά λέει ότι έχει λάβει περισσότερες από 1 εκατομμύριο αναφορές υλικού σεξουαλικής κακοποίησης παιδιών που σχετίζεται με την τεχνητή νοημοσύνη (CSAM) το 2025. Η «συντριπτική πλειοψηφία» αυτού του περιεχομένου αναφέρθηκε από την Amazon, η οποία βρήκε το υλικό στα δεδομένα εκπαίδευσής της, σύμφωνα με έρευνα. Bloomberg. Επίσης, η Amazon είπε μόνο ότι έλαβε ακατάλληλο περιεχόμενο από εξωτερικές πηγές που χρησιμοποιούνται για την εκπαίδευση των υπηρεσιών τεχνητής νοημοσύνης της και ισχυρίστηκε ότι δεν μπορούσε να παράσχει περισσότερες λεπτομέρειες σχετικά με την προέλευση του CSAM.
«Είναι πραγματικά κάτι ακραίο», δήλωσε ο Fallon McNulty, εκτελεστικός διευθυντής του CyberTipline του NCMEC. Bloomberg. Το CyberTipline είναι όπου πολλοί τύποι εταιρειών που εδρεύουν στις ΗΠΑ είναι νομικά υποχρεωμένοι να αναφέρουν ύποπτα CSAM. «Το να έχουμε τόσα πολλά μέσα στη διάρκεια του έτους εγείρει πολλά ερωτήματα σχετικά με το από πού προέρχονται τα δεδομένα και ποιες διασφαλίσεις υπάρχουν». Πρόσθεσε ότι εκτός από την Amazon, οι αναφορές που σχετίζονται με την τεχνητή νοημοσύνη που έλαβε η εταιρεία από άλλες εταιρείες πέρυσι περιελάμβαναν δεδομένα που μπορούν να ληφθούν μέτρα που θα μπορούσαν να διαβιβαστούν στις αρχές επιβολής του νόμου για περαιτέρω δράση. Επειδή η Amazon δεν δημοσιοποιεί πηγές, ο McNulty είπε ότι οι αναφορές του αποδείχθηκαν “άκυρες”.
«Λαμβάνουμε μια σκόπιμα προσεκτική προσέγγιση για τη σάρωση των δεδομένων εκπαίδευσης του Foundation Model, συμπεριλαμβανομένων δεδομένων από τον δημόσιο ιστό, για να εντοπίσουμε και να αφαιρέσουμε γνωστά (υλικό σεξουαλικής κακοποίησης παιδιών) και να προστατέψουμε τους πελάτες μας», δήλωσε εκπρόσωπος της Amazon σε δήλωση. Bloomberg. Ο εκπρόσωπος είπε επίσης ότι η Amazon σκοπεύει να αναφέρει υπερβολικά τα στατιστικά της στο NCMEC για να αποφύγει να χάσει τυχόν περιπτώσεις. Η εταιρεία είπε ότι αφαίρεσε το ύποπτο περιεχόμενο CSAM προτού τροφοδοτήσει δεδομένα εκπαίδευσης στα μοντέλα τεχνητής νοημοσύνης της.
Το ζήτημα της ασφάλειας για τους ανηλίκους έχει αναδειχθεί ως σημαντικό μέλημα για τη βιομηχανία τεχνητής νοημοσύνης τους τελευταίους μήνες. Το CSAM έχει εκτοξευθεί στα ύψη στο ρεκόρ του NCMEC. Σε σύγκριση με τις περισσότερες από 1 εκατομμύριο αναφορές που σχετίζονται με την τεχνητή νοημοσύνη που έλαβε ο οργανισμός πέρυσι, το 2024 καταγράφηκαν συνολικά 67.000 αναφορές ενώ το 2023 μόνο 4.700 αναφορές.
Εκτός από πράγματα όπως το προσβλητικό περιεχόμενο που χρησιμοποιείται για την εκπαίδευση μοντέλων, τα chatbot AI έχουν επίσης εμπλακεί σε μια σειρά επικίνδυνων ή τραγικών υποθέσεων που αφορούν νεαρούς χρήστες. Το OpenAI και το Character.AI έχουν υποβληθεί σε μήνυση αφού έφηβοι σχεδίασαν τις αυτοκτονίες τους με τις πλατφόρμες αυτών των εταιρειών. Η Meta μηνύεται επίσης επειδή απέτυχε να προστατεύσει τους έφηβους χρήστες από σεξουαλικά υπονοούμενες συνομιλίες με chatbot
Σύνδεσμος πηγής: www.engadget.com