Πρόκειται να μάθουμε εάν τα συστήματα που έχουν σχεδιαστεί για να διευκολύνουν τον εντοπισμό του deepfake και του περιεχομένου που δημιουργείται από AI μπορούν πραγματικά να τα εξαλείψουν. Τα SynthID και C2PA Content Credentials, δύο πρωτοποριακές τεχνολογίες για αόρατη προσθήκη ετικετών σε αρχεία εικόνας, βίντεο και ήχου με πληροφορίες σχετικά με την προέλευσή τους, αποκτούν τη μεγαλύτερη επέκτασή τους μέχρι στιγμής, και μαζί τους, την ευκαιρία να αντιστρέψουν την παλίρροια ενάντια στην παραποίηση τεχνητής νοημοσύνης που δεν κατονομάζεται που εξαπατά τους χρήστες στο διαδίκτυο.
Χθες κατά τη διάρκεια του I/O, η Google ανακοίνωσε ότι η δυνατότητα να ελέγχει εάν οι εικόνες έχουν ετικέτες SynthID – το αόρατο σύστημα υδατογραφήματος που εφαρμόζεται σε περιεχόμενο που δημιουργείται από μοντέλα Google AI – έρχεται στο Chrome και την Αναζήτηση. Αυτό είναι σημαντικό γιατί σίγουρα ο Chrome κυριαρχεί Το παγκόσμιο μερίδιο αγοράς των προγραμμάτων περιήγησης ιστού και των μηχανών αναζήτησης, επομένως δίνεται μεγαλύτερη προσοχή στα εργαλεία επαλήθευσης τεχνητής νοημοσύνης. Απλοποιεί επίσης τη διαδικασία επιθεώρησης. Εάν αυτή τη στιγμή θέλετε να ελέγξετε μια εικόνα για ετικέτες SynthID, αναμένεται να τη ανεβάσετε στην εφαρμογή Gemini.
Όχι μόνο αυτό, αλλά οι διεπαφές Google Verified θα το κάνουν τώρα επίσης Ελέγξτε εάν αυτά τα αρχεία περιέχουν πληροφορίες C2PA – μεταδεδομένα πηγής ενσωματωμένα στο περιεχόμενο στο σημείο δημιουργίας για να μας πείτε πώς δημιουργήθηκε ή υποβλήθηκε σε επεξεργασία και εάν χρησιμοποιήθηκαν εργαλεία τεχνητής νοημοσύνης κατά τη διάρκεια της διαδικασίας. Αυτή η πιστοποίηση C2PA επιτρέπει στους χρήστες να επαληθεύουν ύποπτες εικόνες από μια ενιαία διεπαφή αντί να μεταπηδούν μεταξύ της εφαρμογής Gemini και των αποκλειστικών πυλών επαλήθευσης C2PA, καθώς τα αρχεία μπορεί να έχουν μόνο έναν τύπο ετικέτας ή καμία.
Αυτό είναι το είδος της συλλογικής προσπάθειας που περιμέναμε. Ενώ τα δύο συστήματα λειτουργούν διαφορετικά, τόσο η Google όσο και το Content Authentication Initiative (που υπάρχει για την προώθηση των προτύπων C2PA) έχουν κάνει παρόμοιους ισχυρισμούς σχετικά με το τι απαιτείται για να λειτουργήσουν: να είναι όλοι μαζί. Αυτό σημαίνει ότι περισσότερα μοντέλα τεχνητής νοημοσύνης πρέπει να περιλαμβάνουν αυτά τα δεδομένα και οι διαδικτυακές πλατφόρμες όπου κοινοποιούνται συχνότερα τα fakeouts AI πρέπει να εμφανίζουν με σαφήνεια αυτές τις πληροφορίες. Για το τελευταίο, η ύπαρξη επικυρωτών ενσωματωμένων στο πρόγραμμα περιήγησης ιστού μπορεί να χρησιμεύσει ως λύση σε ιστότοπους που δεν επαληθεύουν ή δεν παρέχουν μεταδεδομένα AI στους χρήστες τους.
Το OpenAI συμμετέχει επίσης σε αυτήν την επέκταση, ανακοινώνοντας χθες ότι θα περιλαμβάνει πλέον το SynthID σε εικόνες που δημιουργούνται από το ChatGPT, το Codex και το OpenAI API. Η εταιρεία περιλαμβάνει μεταδεδομένα C2PA στο περιεχόμενο που δημιουργεί, αλλά έχω διαπιστώσει ότι συχνά αφαιρούνται όταν δημοσιεύονται σε άλλες πλατφόρμες. Το ίδιο το OpenAI θέλησε επίσης να μετριάσει τις προσδοκίες γύρω από το C2PA, παρά το γεγονός ότι είναι μέλος της διεύθυνσης του C2PA και τώρα επιβεβαιώνει τη δέσμευσή του στο πρότυπο. Αυτό είπε το OpenAI Σελίδα βοήθειας C2PAπριν γίνει Ενημερώθηκε για να συμπεριλάβει το SynthID εχθές:
“Τα μεταδεδομένα όπως το C2PA δεν είναι ασημένια κουκκίδα για την αντιμετώπιση προβλημάτων προέλευσης. Μπορούν εύκολα να αφαιρεθούν είτε τυχαία είτε σκόπιμα. Για παράδειγμα, οι περισσότερες πλατφόρμες μέσων κοινωνικής δικτύωσης σήμερα αφαιρούν μεταδεδομένα από μεταφορτωμένες εικόνες και ενέργειες όπως η λήψη ενός στιγμιότυπου οθόνης μπορούν επίσης να τα αφαιρέσουν. Επομένως, μια εικόνα χωρίς αυτά τα μεταδεδομένα μπορεί ή όχι να δημιουργηθεί χρησιμοποιώντας το ChatGPT ή το δικό μας.
Για κάτι που θεωρείται το απόλυτο καλύτερο στην τεχνολογία αυθεντικότητας περιεχομένου, αυτό φαίνεται απίστευτα αδύναμο. Ακόμη και η Google περιγράφει το C2PA ως… ο Βιομηχανικό πρότυπο, είναι Παρουσιάστηκε σε παγκόσμιες κυβερνήσεις Ως λύση για την ικανοποίηση των απαιτήσεων διαφάνειας και επισήμανσης στην τεχνητή νοημοσύνη. Αλλά αν και είναι όλο και περισσότερο Είναι πιστοποιημένο από AI, παρόχους υλικού και λογισμικούσπάνια το έχω δει να χρησιμοποιείται με επιτυχία για τον έλεγχο της ψεύτικης τεχνητής νοημοσύνης στη φύση. Το SynthID φαίνεται πιο ισχυρό συγκριτικά επειδή δεν μπορεί να αφαιρεθεί εύκολα – δεδομένου του πόσο περιορισμένη είναι η εμβέλειά του σε σύγκριση με το C2PA, μπορώ να θυμηθώ αρκετές περιπτώσεις όπου ελεγκτές γεγονότων και πρακτορεία μέσων έχουν επισημάνει τη χρήση του στην απομυθοποίηση διαδικτυακών deepfakes.
Το C2PA και το SynthID μπορούν να συνεργαστούν για να δημιουργήσουν ένα ευρύτερο δίκτυο ασφαλείας. Αυτός δεν είναι ένας κλάδος που θα ωφεληθεί από έναν πόλεμο προτύπων επαλήθευσης, αλλά η Google έχει μια σαφή ευκαιρία εδώ να αποδείξει εάν το σύστημά της είναι πιο αξιόπιστο και να προσελκύσει μέρος του ενδιαφέροντος που έχει δώσει η C2PA. Για να μην συμβεί αυτό, το C2PA πρέπει να αποδείξει ότι μπορεί πραγματικά να χρησιμοποιηθεί για την απομυθοποίηση της πηγής του περιεχομένου που βλέπουμε στο διαδίκτυο.
Μια τέτοια ευκαιρία έχει ήδη παρουσιαστεί: Χθες η Google ανακοίνωσε ότι η Meta θα αρχίσει να χρησιμοποιεί μεταδεδομένα C2PA για να προσθέτει ετικέτες σε φωτογραφίες στο Instagram που τραβήχτηκαν από την κάμερα. Η Meta δεν απάντησε στις ερωτήσεις μας σχετικά με το πώς θα μοιάζει ή ποιες κάμερες θα υποστηρίζονται, αν και υποθέτω ότι θα περιλαμβάνει ετικέτες που θα αναφέρουν κάτι σαν “Taken on Pixel 10”, παρόμοια με τις σημειώσεις “Sent from my iPhone” που εφαρμόζονται στα email. Αυτό θα βοηθούσε αποτελεσματικά τους χρήστες του Instagram να διακρίνουν μεταξύ «πραγματικών» φωτογραφιών και πειστικών πλαστών που βασίζονται στην τεχνητή νοημοσύνη, κάτι που παίζει στο μέλλον που προβλέπει ο επικεφαλής του Instagram Adam Mosseri σχετικά με την ανάγκη να απομακρυνθούν «από την υπόθεση ότι αυτό που βλέπουμε είναι πραγματικό από προεπιλογή».
Εάν η προσθήκη ετικετών λειτουργεί, δηλαδή. Το Instagram ήδη σαρώνει φωτογραφίες για πληροφορίες C2PA και οι προσπάθειές του να επισημάνει περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη έβαλε την πλατφόρμα σε αιχμή αφού εφάρμοσε ετικέτες τεχνητής νοημοσύνης σε φωτογραφίες που οι φωτογράφοι επέμεναν ότι τραβούσαν οι ίδιοι.
Δεν θα βιαζόμουν να επαινέσω την Google για αυτήν την ομάδα. Η εταιρεία κηρύττει τη σημασία της διαφάνειας της τεχνητής νοημοσύνης και της καταπολέμησης των ψηφιακών ψεύτικα ψεύτικα, ενώ αναπτύσσει την ίδια τεχνολογία που χρησιμοποιείται για να παραπλανήσει τους ανθρώπους. Έχει τοποθετηθεί ως ο πόρος και η λύση. Μπορώ να το συγχωρήσω αν το SynthID κάνει μια αξιοσημείωτη διαφορά στην καταπολέμηση των deepfakes, αλλά δεν κερδίζω τις ελπίδες μου δεδομένης της κλίμακας του προβλήματος.
Είτε το SynthID και το C2PA είναι ισχυρά είτε όχι, δεν μπορούν να ανιχνεύσουν υδατογραφήματα αν δεν προστεθούν εξαρχής, και αμφιβάλλω ότι πολλά από τα μοντέλα ανοιχτού κώδικα που χρησιμοποιούνται για τη δημιουργία πραγματικά εξωφρενικού περιεχομένου deepfake συντάσσονται για να υιοθετήσουν αυτά τα συστήματα. Η προμήθεια δεν ήταν ποτέ τέλεια λύση, αλλά τώρα η Google και η C2PA έχουν την ευκαιρία να αποδείξουν ότι δεν είναι χάσιμο χρόνου.
