Η Γερουσία ψηφίζει για δεύτερη φορά τον Defence Act για την καταπολέμηση των deepfakes του Grok

Σύμφωνα με τον συνχορηγό του νομοσχεδίου, γερουσιαστή Ντικ Ντάρμπιν (D-IL), η Γερουσία ψήφισε με ομόφωνη συγκατάθεση τον Νόμο Disrupt Explicit Forged Images and Non-Consential Edits (DFINC). Το νομοσχέδιο επιτρέπει σε υποκείμενα με απαράδεκτα, σεξουαλικά ρητά deepfakes να αναλάβουν πολιτική δράση εναντίον εκείνων που τα δημιουργούν και τα φιλοξενούν

Τα Deepfakes είναι ένα γνωστό πρόβλημα στο διαδίκτυο, αλλά χωρίς την κατάλληλη προστασία, η εύκολη πρόσβαση σε εργαλεία δημιουργίας εικόνας και βίντεο με τεχνητή νοημοσύνη έχει καταστήσει δυνατό σε οποιονδήποτε να δημιουργήσει συμβιβαστικό περιεχόμενο χρησιμοποιώντας την ομοιότητα ενός άλλου ατόμου. Αυτό έχει γίνει ένα ιδιαίτερο πρόβλημα στο X, όπου η ενσωμάτωση του Grok, ενός βοηθού τεχνητής νοημοσύνης που αναπτύχθηκε από τη μητρική εταιρεία του X xAI, δίνει τη δυνατότητα σε οποιονδήποτε να μετατρέψει το περιεχόμενο της ανάρτησης άλλου ατόμου σε μια προτροπή δημιουργίας εικόνας. Τον περασμένο μήνα, επέτρεψε στους χρήστες να δημιουργούν σεξουαλικές εικόνες παιδιών απαντώντας απλώς σε μια ανάρτηση με τον @grok και ένα αίτημα.

Σε απάντηση, η Ofcom, η ρυθμιστική αρχή μέσων ενημέρωσης του Ηνωμένου Βασιλείου, έχει ήδη ξεκινήσει έρευνα για τον X για πιθανές παραβιάσεις της νομοθεσίας για την ασφάλεια στο διαδίκτυο. Το chatbot είναι επίσης εντελώς αποκλεισμένο στη Μαλαισία και την Ινδονησία. Ο νόμος Defiance δεν θα εμπόδιζε τον Grok ή άλλα εργαλεία τεχνητής νοημοσύνης να δημιουργήσουν μη συμμορφούμενα deepfakes, αλλά θα καθιστούσε δυνητικά πολύ ακριβό για οποιονδήποτε στο τέλος της αγωγής να δημιουργήσει ή να φιλοξενήσει αυτό το περιεχόμενο.

Η Γερουσία ενέκρινε μια παλαιότερη έκδοση του νόμου περί υπερβολής το 2024, αλλά σταμάτησε στη Βουλή. Δεδομένου του επείγοντος του προβλήματος του deepfake του Groke, ελπίζουμε ότι αυτή η νέα έκδοση του νομοσχεδίου δεν θα δει την ίδια αντίσταση. Το Κογκρέσο ψήφισε ένα προηγούμενο κομμάτι του deepfake κανονισμού, τον νόμο Take It Down, πέρυσι με δικομματική υποστήριξη. Το νομοσχέδιο επικεντρώθηκε σε εταιρείες που φιλοξενούν απαράδεκτο, σεξουαλικό περιεχόμενο και όχι σε άτομα που υφίστανται εκμετάλλευση από αυτό.