Η Roblox εισάγει ανανέωση συνομιλίας με τεχνητή νοημοσύνη σε πραγματικό χρόνο για ακατάλληλη γλώσσα

Η Roblox εισήγαγε μια δυνατότητα που υποστηρίζεται από AI που μπορεί να αναδιατυπώσει ακατάλληλη γλώσσα σε πραγματικό χρόνο. Το διαδικτυακό παιχνίδι χρησιμοποιεί φίλτρα τεχνητής νοημοσύνης για να μπλοκάρει οποιαδήποτε γλώσσα αντίκειται στις πολιτικές του εδώ και λίγο καιρό, αλλά αντικαθιστά τις λογοκριμένες συνομιλίες με μια σειρά από σύμβολα κατακερματισμού (####). Η Roblox αναγνωρίζει ότι η αντιμετώπιση πολλών hashtag μπορεί να αποσπά την προσοχή και να δυσκολεύει την παρακολούθηση των συνομιλιών. Αυτή η νέα δυνατότητα θα αντικαταστήσει λέξεις και φράσεις που η τεχνητή νοημοσύνη θεωρεί ότι είναι πιο κατάλληλες εναλλακτικές.

Ο Rajeev Bhatia, Chief Safety Office της Roblox, είπε ότι το παιχνίδι ξεκινά με βωμολοχίες. Για παράδειγμα, εάν ένας χρήστης στείλει “Hurry TF up” στη συνομιλία, το σύστημα θα το στείλει ως “Hurry up!” θα αντικατασταθεί με Όλοι στη συνομιλία θα δουν μια σημείωση όταν επαναδιατυπώνεται ένα μήνυμα και ο αποστολέας θα δει ποια γλώσσα έχει επεξεργαστεί. Ένας χρήστης που συνεχίζει να βρίζει στη συνομιλία θα εξακολουθεί να τιμωρείται για παραβίαση της πολιτικής του Roblox, ακόμα κι αν το AI επαναδιατυπώσει τα μηνύματά του. «Καθώς αυτά τα συστήματα κλιμακώνονται, δημιουργούν ένα σφόνδυλο για τον πολιτισμό, όπου η ανατροφοδότηση σε πραγματικό χρόνο βοηθά τους χρήστες να μάθουν και να υιοθετήσουν τις αξίες των κοινοτήτων μας», δήλωσε ο Bhatia σε μια ανάρτηση στο blog.

Το refrasing είναι ενεργοποιημένο σε συνομιλίες μεταξύ χρηστών με επαλήθευση ηλικίας στην ίδια ηλικιακή ομάδα και σε όλες τις γλώσσες που υποστηρίζονται από το εργαλείο μετάφρασης του παιχνιδιού. Η Roblox εισήγαγε ένα υποχρεωτικό σύστημα επαλήθευσης ηλικίας τον Ιανουάριο μετά από αναφορές ότι είχε «πρόβλημα παιδεραστίας», με τους ενήλικες παίκτες να χρησιμοποιούν το παιχνίδι για να στρατολογούν παιδιά. Τα παιδιά κάτω των 13 ετών δεν μπορούν πλέον να χρησιμοποιούν συνομιλία εντός παιχνιδιού εκτός συγκεκριμένων εμπειριών, ενώ όλοι οι άλλοι μπορούν να συνομιλούν με παίκτες της ηλικίας τους. Η επαλήθευση ηλικίας, ωστόσο, δεν εμπόδισε τις αρχές να μηνύσουν το Roblox: Η κομητεία του Λος Άντζελες, σε μήνυση που κατατέθηκε τον Φεβρουάριο, είπε ότι η Roblox γνώριζε ότι η πλατφόρμα της «έκανε τα παιδιά εύκολη λεία για παιδεραστές». Η AGO της Λουιζιάνα μόλις κατέθεσε μήνυση, λέγοντας ότι η Roblox «δημιούργησε ένα δημόσιο πάρκο και το γέμισε με σεξουαλικά αρπακτικά που… λεηλατούν παιδιά».