Ένας προγραμματιστής λογισμικού ισχυρίζεται ότι έχει αναστρέψει το σύστημα SynthID του Google DeepMind, δείχνοντας πώς μπορούν να αφαιρεθούν τα υδατογραφήματα τεχνητής νοημοσύνης από εικόνες που δημιουργούνται ή εισάγονται χειροκίνητα σε άλλα έργα. Ένας ισχυρισμός που, σύμφωνα με την Google, είναι αναληθής.
Ο προγραμματιστής, ο οποίος ακούει στο όνομα χρήστη Aloshdenny, έχει open source τη δουλειά του στο GitHub και έχει τεκμηριώσει τη διαδικασία του, υποστηρίζοντας ότι το μόνο που χρειάζεται είναι 200 εικόνες που δημιουργούνται από τους Gemini, επεξεργασία σήματος και «πολύς ελεύθερος χρόνος». Μερικά βότανα φαίνεται να βοηθούν επίσης.
“Δεν υπάρχουν νευρωνικά δίκτυα. Δεν υπάρχει ιδιωτική πρόσβαση”, δήλωσε ο Al-Washdini στο Medium. «Αποδεικνύεται ότι εάν είστε άνεργοι και έχετε αρκετές «καθαρές μαύρες» εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη, κάθε μη μηδενικό pixel είναι κυριολεκτικά απλώς ένα υδατογράφημα που σας κοιτάζει».
Το SynthID είναι ένα σχεδόν αόρατο σύστημα υδατογραφήματος που προσθέτει ετικέτες σε περιεχόμενο που δημιουργείται από τα εργαλεία τεχνητής νοημοσύνης της Google και ενσωματώνεται σε εικονοστοιχεία εικόνας στο σημείο δημιουργίας. Έχει σχεδιαστεί ώστε να είναι δύσκολο να αφαιρεθεί χωρίς να διακυβεύεται η ποιότητα της εικόνας και χρησιμοποιείται ευρέως στα προϊόντα τεχνητής νοημοσύνης της Google — όλα όσα κυκλοφορούν από μοντέλα όπως το Nano Banana και το Veo 3 φέρουν υδατογραφήματα SynthID και εφαρμόζεται επίσης σε αντίγραφα του YouTube που δημιουργούνται από τεχνητή νοημοσύνη δημιουργών.
Ο Al-Washdini λέει ότι βρήκε ότι το σύστημα ήταν «πραγματικά καλά σχεδιασμένο» και δεν μπόρεσε να αφαιρέσει πλήρως το SynthID σε δοκιμές, αντί να βασιστεί σε σύγχυση αποκωδικοποιητών SynthID που προσπαθούσαν να διαβάσουν εικόνες με υδατοσήμανση.
Η διαδικασία που χρησιμοποιείται για την παραβίαση των βασικών μηχανισμών του υδατογραφήματος της Google είναι τεχνικά πολύπλοκη για μη προγραμματιστές. Μπορείτε να διαβάσετε την πλήρη εξήγηση στη σελίδα του Aloshdenny Medium (η οποία φαίνεται να γράφτηκε όταν ο Aloshdenny ήταν “ψηλά”) εάν είστε περίεργοι, αλλά εδώ είναι μια απλοποιημένη εξήγηση:
«Το καλύτερο που μπορώ να κάνω είναι να μπερδέψω αρκετά τον αποκωδικοποιητή ώστε να τον εγκαταλείψω — όχι να τον διαγράψω — πράγμα που λέει πολλά για το πόσο καλά είναι σχεδιασμένο», λέει ο Alushdini. “Δεν είναι τέλειο. Αλλά δεν προσπαθεί να είναι άθραυστο. Προσπαθεί να αυξήσει το κόστος της κακής χρήσης τόσο ψηλά που δεν θα ενοχλεί τους περισσότερους ανθρώπους.”
Δεν έχω δοκιμάσει το έργο Washdini που δημιουργεί αντίστροφη μηχανική στο σύστημα υδατογράφησης SynthID της Google, επομένως δεν μπορώ να εγγυηθώ πόσο αποτελεσματικό είναι στην πραγματικότητα. Ωστόσο, αυτή τη στιγμή, δεν φαίνεται ότι το SynthID Έχει Είναι κατασκευασμένο με αντίστροφη μηχανική, τουλάχιστον όχι στο βαθμό που τα παιδιά μπορούν να κατεβάσουν ένα εργαλείο και να αφαιρέσουν (ή να προσθέσουν) το υδατογράφημα της Google για να ξεγελάσουν τα συστήματα ανίχνευσης τεχνητής νοημοσύνης. Η Google επίσης δεν πιστεύει ότι ανταποκρίνεται στους ισχυρισμούς του Al-Washdini.
«Δεν είναι σωστό να λέμε ότι αυτό το εργαλείο μπορεί να αφαιρεί συστηματικά τα υδατογραφήματα SynthID», δήλωσε η εκπρόσωπος της Google, Miriam Khan. Ακρη. “Το SynthID είναι ένα ισχυρό και αποτελεσματικό εργαλείο για την υδατογράφηση περιεχομένου που δημιουργείται από AI.”
Σύνδεσμος πηγής: www.theverge.com