Η Meta εργάζεται σε ένα εργαλείο για την αναγνώριση εικόνων και βίντεο που δημιουργήθηκαν με το νέο της μοντέλο δημιουργίας εικόνων, το MuseImage. Η εταιρεία έκλεισε μια προεπισκόπηση εκπομπής Εργαλείο που βασίζεται στο Web που μπορεί να ελέγξει για αόρατα υδατογραφήματα που χρησιμοποιούνται από νεότερα μοντέλα.
Αυτό το σύστημα υδατογράφησης, που ονομάζεται Content Seal, “παραμένει ακόμη και όταν έχει περικοπεί, συμπιεστεί, αλλάξει μέγεθος ή στιγμιότυπο οθόνης”, εξηγεί ο Meta. Ανάρτηση ιστολογίου. “Πραγματοποιούμε προεπισκόπηση ενός εργαλείου ανίχνευσης που σας επιτρέπει να ελέγχετε εάν μια εικόνα φέρει ένα υδατογράφημα σφραγίδας περιεχομένου, παρέχοντας έναν πρώιμο τρόπο για να κατανοήσετε καλύτερα εάν μια εικόνα έχει δημιουργηθεί με μετα-τεχνητή νοημοσύνη.”
Το περιεχόμενο φαίνεται να είναι κάπως μια νέα προσέγγιση για το seal meta. Η έκδοση που αποτελεί μέρος του Muse Image είναι ιδιόκτητη, αν και η εταιρεία έχει κυκλοφορήσει στο παρελθόν εκδόσεις ανοιχτού κώδικα της τεχνολογίας, είπε ο Meta στο Engadget. Τα νεότερα μοντέλα του Meta δεν περιλαμβάνουν ορατά υδατογραφήματα, όπως ορισμένες προηγούμενες εκδόσεις του Meta AI που πρόσθεσαν ένα μικρό λογότυπο κάτω δεξιά.
Προς το παρόν, οι δυνατότητες ανίχνευσης του Meta AI περιορίζονται σε εικόνες που δημιουργούνται ή επεξεργάζονται με το Muse Images, αν και η εταιρεία λέει ότι σχεδιάζει να επεκτείνει το υδατογράφημα της σφραγίδας περιεχομένου και σε βίντεο που δημιουργούνται και επεξεργάζονται με AI. Το Meta Muse εργάζεται επίσης σε ένα ξεχωριστό μοντέλο παραγωγής βίντεο που ονομάζεται Video που “έρχεται σύντομα”.
Δοκίμασα τη νέα δυνατότητα ανίχνευσης σε εικόνες που δημιουργήθηκαν με το Meta AI σήμερα και το εργαλείο που βασίζεται στο web μπόρεσε να ανιχνεύσει ένα υδατογράφημα για επεξεργασμένες εικόνες και δημιουργίες που δημιουργήθηκαν πλήρως από AI (όπως η παραπάνω εικόνα). Βρήκε επίσης υδατογραφήματα σε στιγμιότυπα οθόνης των εικόνων μου. “Ένα θετικό αποτέλεσμα σημαίνει ότι η εικόνα δημιουργήθηκε ή επεξεργάστηκε χρησιμοποιώντας την εφαρμογή Meta AI μετα.αι“Η εταιρεία εξηγεί σε ένα FAQ. “Ένα αρνητικό αποτέλεσμα σημαίνει ότι είναι απίθανο η επεξεργασία της εικόνας να έγινε χρησιμοποιώντας την εφαρμογή Meta AI ή το meta.ai.”
Είναι ενδιαφέρον ότι οι νέες δυνατότητες ανίχνευσης του Meta AI δεν φαίνεται να αποτελούν ακόμη μέρος της εφαρμογής Meta AI. Όταν ρώτησα τον βοηθό του Mater που βασίζεται σε εφαρμογές σχετικά με μια εικόνα που το εργαλείο ιστού αναγνώρισε ότι δημιουργήθηκε από AI, απάντησε ότι δεν είχε τη δυνατότητα να ελέγξει. «Δεν μπορώ να πω με βεβαιότητα αν αυτή η συγκεκριμένη εικόνα έγινε με το Meta Al», λέει. “Το MetaAl δεν υδατογραφεί αυτόματα εικόνες και δεν έχω ένα εργαλείο που να μπορεί να ανιχνεύσει ποιο μοντέλο Al δημιούργησε μια υπάρχουσα εικόνα.”
Η Meta έχει αντιμετωπίσει στο παρελθόν κάποιες επικρίσεις σχετικά με τον τρόπο με τον οποίο επισημαίνει και προσδιορίζει περιεχόμενο που δημιουργείται από AI στις εφαρμογές της. Το Εποπτικό Συμβούλιο είπε στην εταιρεία νωρίτερα αυτό το έτος ότι «ανησυχεί» ότι η Meta «εφαρμόζει ασυνεπώς» ψηφιακά υδατογραφήματα σε περιεχόμενο τεχνητής νοημοσύνης που δημιουργήθηκε από τα δικά της εργαλεία.
Ωστόσο, το νέο χαρακτηριστικό εξακολουθεί να έχει κάποιους άλλους περιορισμούς. Η σφραγίδα περιεχομένου δεν είναι συμβατή με την πιστοποίηση περιεχομένου SynthID ή C2PA, δύο καθιερωμένες μεθόδους υδατοσήμανσης που χρησιμοποιούνται από άλλες εταιρείες. Η δυνατότητα που βασίζεται στον ιστό δεν μπόρεσε να εντοπίσει εικόνες που δημιουργήθηκαν ή επεξεργάστηκαν με προηγούμενες εκδόσεις μοντέλων Mater AI στις δοκιμές μου. Όταν πρόσθεσα εικόνες που δημιουργήθηκαν σε παλιές συνομιλίες με το Meta AI, δεν ήταν σε θέση να μου πει εάν η εικόνα δημιουργήθηκε με το AI του. Η λειτουργία φαίνεται επίσης, για κάποιο λόγο, να υπόκειται σε όρια ρυθμού μετρητή. Μετά τη μεταφόρτωση μερικών παραδειγμάτων, με προειδοποίησαν ότι είχα φτάσει στο “ημερήσιο όριο ελέγχων ελέγχου ταυτότητας”.
