Η νέα συσκευή δημιουργίας τεχνητής νοημοσύνης Muse Image της Meta αντιμετωπίζει σοβαρή κριτική και ανησυχίες χρηστών σχετικά με το απόρρητο δεδομένων, τη διαγραφή φωτογραφιών και τη συναίνεση, επειδή επιτρέπει τη δημιουργία εικόνων AI από δημόσιους λογαριασμούς Instagram από προεπιλογή, εγείροντας ανησυχίες για deepfakes και διαδικτυακή πλαστοπροσωπία.
Βασικά σημεία
- Το λογισμικό Muse Image AI της Meta επιτρέπει στους χρήστες να δημιουργούν εικόνες από δημόσιους λογαριασμούς Instagram από προεπιλογή, εγείροντας σημαντικές ανησυχίες σχετικά με το απόρρητο και τη συναίνεση.
- Οι ειδικοί προειδοποιούν ότι η προσέγγιση «opt-in default» σημαίνει ότι οι ανυποψίαστοι χρήστες θα μπορούσαν να βρουν την ομοιότητα τους σε εικόνες που δημιουργούνται από AI χωρίς ρητή άδεια.
- Αυτό το εργαλείο αυξάνει τον κίνδυνο εύκολης δημιουργίας deepfakes και πλαστοπροσωπιών στο διαδίκτυο, καθιστώντας πιο δύσκολη τη διάκριση μεταξύ πραγματικών εικόνων και εικόνων που δημιουργούνται από AI.
- Η Meta ισχυρίζεται ότι οι χρήστες μπορούν να εξαιρεθούν μέσω των ρυθμίσεων του Instagram, αλλά οι επικριτές υποστηρίζουν ότι αυτό βασίζεται στην αδράνεια των χρηστών και όχι στην ενημερωμένη επιλογή.
- Αυτό το χαρακτηριστικό εγκυμονεί ιδιαίτερους κινδύνους για τους παράγοντες επιρροής και τους δημιουργούς των οποίων τα δημόσια προφίλ αποτελούν αναπόσπαστο κομμάτι της εμπορικής τους αξίας, με δυνητικά ως αποτέλεσμα ζημιά στη φήμη και οικονομικές συνέπειες.
Η Meta ανακοίνωσε την κυκλοφορία του Muse Image, που χαρακτηρίζεται ως η πιο προηγμένη συσκευή δημιουργίας εικόνων AI και το πρώτο μοντέλο παραγωγής πολυμέσων που αναπτύχθηκε από τη Meta Superintelligence Labs, αλλά η κίνηση πυροδότησε έντονη κριτική και ανησυχίες από τους χρήστες σχετικά με το απόρρητο δεδομένων, την απόρριψη εικόνας και τη συναίνεση.
Οι γραμμές ανησυχίας έχουν αρχίσει να εμφανίζονται σχετικά με ένα χαρακτηριστικό που επιτρέπει στους χρήστες να δημιουργούν εικόνες AI σαρώνοντας φωτογραφίες από δημόσιους λογαριασμούς Instagram, με ένα απλό τικ στο μήνυμα.
Οι ειδικοί πιστεύουν ότι εφόσον η δυνατότητα ενεργοποιείται αυτόματα για δημόσιους λογαριασμούς, η “προεπιλεγμένη προσέγγιση συμμετοχής” εγείρει ορισμένα σοβαρά ερωτήματα σχετικά με τη συναίνεση, το απόρρητο και την εικονοστοιχεία εικόνας, καθώς οι ανυποψίαστοι χρήστες μπορεί να αντιμετωπίσουν μια εντυπωσιακή ομοιότητα σε τυχαίες εικόνες που δημιουργούνται από AI, παρόλο που δεν έχουν δώσει ρητή άδεια.
Ανησυχίες σχετικά με τις δυνατότητες deepfake
Ο κίνδυνος να υπάρχει μια εύκολη, καθημερινή δυνατότητα deepfake διαθέσιμη και προσβάσιμη σε εκατομμύρια, αν όχι δισεκατομμύρια, χρήστες θα μπορούσε να δυσκολέψει την άμεση εμπιστοσύνη ποιες εικόνες είναι πραγματικές και ποιες δημιουργήθηκαν από τεχνητή νοημοσύνη, καθιστώντας τους ανθρώπους πιο ευάλωτους στην ηλεκτρονική πλαστοπροσωπία, παρά ορισμένες διασφαλίσεις υδατογράφησης που ανακοινώθηκαν από τη Meta, λένε παρατηρητές του κλάδου.
Ωστόσο, η Meta τονίζει ότι οι χρήστες έχουν τη δυνατότητα να ελέγχουν τον τρόπο με τον οποίο το περιεχόμενό τους επισημαίνεται για δημιουργία τεχνητής νοημοσύνης με μια εύκολη ρύθμιση για την απενεργοποίηση αυτής της δυνατότητας ανά πάσα στιγμή.
Η Meta ενημέρωσε τις “Ρυθμίσεις” στο Instagram για να διευκρινίσει ότι όταν ένας χρήστης επιτρέπει σε άλλους να επαναχρησιμοποιήσουν το δημόσιο περιεχόμενό τους σε λειτουργίες όπως το Remix που επιτρέπει επίσης στους ανθρώπους να δημιουργούν το δικό τους περιεχόμενο Instagram χρησιμοποιώντας τα προϊόντα AI της Meta. Οι χρήστες μπορούν να εξαιρεθούν απενεργοποιώντας αυτήν τη ρύθμιση επαναχρησιμοποίησης.
Ο Meta είπε ότι το Muse Image είναι το πιο προηγμένο μοντέλο δημιουργίας εικόνων μέχρι σήμερα και ότι «ακολουθεί πιστά τις οδηγίες, επεξεργάζεται σχολαστικά, συνθέτει από πολλαπλές αναφορές και βασίζεται στο Instagram για κοινωνικό πλαίσιο». Σύμφωνα με το Meta, προσφέρει επίσης δυνατότητες proxy και ενσωματώνεται με το Muse Spark.
«Είμαστε ενθουσιασμένοι που κυκλοφορούμε το Muse Image και προεπισκόπηση του Muse Video, τα πρώτα μοντέλα παραγωγής πολυμέσων που αναπτύχθηκαν από τη Meta Superintelligence Labs», είπε ο Meta.
Το Muse Image είναι διαθέσιμο μέσω της εφαρμογής Meta AI, στο meta.ai και στο Instagram Stories στις ΗΠΑ, στο WhatsApp σε περιορισμένες χώρες και σύντομα στο Facebook.
Το Muse Video θα είναι επίσης σύντομα διαθέσιμο για δημιουργούς και Meta AI, είπε η εταιρεία.
Ακριβής επεξεργασία και υδατοσήμανση
Η Meta λέει επίσης ότι το Muse Image επεξεργάζεται σχολαστικά τις εικόνες, αλλάζοντας ακριβώς αυτό που ζητά ο χρήστης. Ο Meta είπε ότι μπορεί να ακολουθήσει διάφορες οδηγίες, μοιράζοντας παραδείγματα για το πώς το εργαλείο έχει αποκαταστήσει μια εικόνα, έχει αφαιρέσει μια κουβέρτα ομίχλης σε μια άλλη εικόνα για να αποκαλύψει την κοιλάδα από κάτω ή υποστήριξε πιο εξωτικούς ισχυρισμούς όπως η αλλαγή των πετάλων ενός λουλουδιού σε απόχρωση ουράνιου τόξου.
Το Muse Image περιλαμβάνει σφραγίδα περιεχομένου, ένα αόρατο σύστημα υδατογραφήματος που η Meta λέει ότι θα βοηθήσει τους ανθρώπους να επαληθεύσουν εάν μια εικόνα δημιουργήθηκε από AI. Οι εικόνες που δημιουργούνται από το Muse Image στην εφαρμογή Meta AI και στο meta.ai φέρουν μια κρυφή αναφορά πηγής που παραμένει ανέπαφη, ακόμη και όταν έχουν περικοπεί, συμπιεστεί, αλλάξει μέγεθος ή στιγμιότυπο οθόνης. Το Content Stamping θα επεκταθεί σύντομα στο βίντεο.
Η Meta είπε ότι κάνει προεπισκόπηση ενός εργαλείου ανίχνευσης που θα επιτρέπει στους χρήστες να ελέγχουν εάν μια εικόνα έχει υδατογράφημα σφραγίδας περιεχομένου, παρέχοντας έναν προκαταρκτικό τρόπο για να τους βοηθήσει να κατανοήσουν καλύτερα εάν μια εικόνα δημιουργήθηκε με Meta AI.
Ανάλυση εμπειρογνωμόνων και νομικές επιπτώσεις
Το νέο εργαλείο Muse Image της Meta επιτρέπει στους χρήστες να πληκτρολογούν το όνομα χρήστη Instagram κάποιου σε μια προτροπή AI και να δημιουργούν ψεύτικες εικόνες αυτού του ατόμου, βγαλμένες από τις δημόσιες φωτογραφίες τους, χωρίς να ζητήσουν πρώτα άδεια, σημείωσε ο Prashir Singh, ανώτερος αναλυτής στην Counterpoint Research.
Πρόσθεσε ότι η δυνατότητα ενεργοποιείται αυτόματα για δημόσιους λογαριασμούς, πράγμα που σημαίνει ότι οι χρήστες έχουν ήδη συμπεριληφθεί εκτός και αν μεταβούν στις ρυθμίσεις τους και την απενεργοποιήσουν χειροκίνητα.
«Αυτή είναι μια μεγάλη αλλαγή γιατί αλλάζει αυτό που σημαίνει να έχεις δημόσιο λογαριασμό στο Instagram», είπε ο Singh. “Σήμαινε απλώς ότι περισσότεροι άνθρωποι μπορούσαν να δουν τις αναρτήσεις κάποιου. Τώρα σημαίνει επίσης ότι οι άγνωστοι μπορούν να χρησιμοποιήσουν το πρόσωπο αυτού του ατόμου για να δημιουργήσουν νέες φωτογραφίες που ποτέ δεν ενέκριναν — ένας κίνδυνος που είναι ιδιαίτερα σημαντικός για τους influencers και τους δημιουργικούς που βασίζονται σε δημόσιους λογαριασμούς για τη δουλειά τους, αλλά και για τους τακτικούς χρήστες, καθώς η Meta είπε ότι δεν θα ειδοποιεί τους ανθρώπους όταν τους συμβεί αυτό.”
Νομικά, εάν μια εταιρεία χρησιμοποιεί μία από αυτές τις εικόνες που δημιουργούνται από AI σε μια διαφήμιση και περιλαμβάνει κατά λάθος το πρόσωπο κάποιου, αυτή η εταιρεία (όχι η Meta) πιθανότατα θα αντιμετωπίσει μηνύσεις ή αντιδράσεις, είπε.
«Ευρύτερα, η παράδοση αυτού του είδους της εύκολης, καθημερινής δυνατότητας deepfake σε δισεκατομμύρια χρήστες θα μπορούσε να καταστήσει πολύ δύσκολη την εμπιστοσύνη ότι οι εικόνες είναι πραγματικές και πολύ πιο εύκολο για τους ανθρώπους να παρενοχλούνται ή να πλαστογραφούνται στο διαδίκτυο», προειδοποίησε ο Singh.
Επίδραση στα δημόσια προφίλ και την εμπιστοσύνη των χρηστών
Η κίνηση Meta αλλάζει την έννοια ενός δημόσιου προφίλ με σημαντικό τρόπο, λέει ο Prabhu Ram, αντιπρόεδρος της ερευνητικής ομάδας βιομηχανίας της CyberMedia Research (CMR). Μέχρι τώρα, το δημόσιο προφίλ σήμαινε σε μεγάλο βαθμό ορατότητα και δυνατότητα ανακάλυψης. Με αυτό, θα μπορούσε επίσης να γίνει πηγή υλικού για περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη με βάση την ομοιότητα ενός ατόμου, είπε.
“Αυτό μετατοπίζει τον κίνδυνο από την απλή εμφάνιση στο διαδίκτυο στην επαναχρησιμοποίηση χωρίς σαφή συγκατάθεση ή έλεγχο. Το γεγονός ότι αυτό είναι ενεργοποιημένο από προεπιλογή το καθιστά ακόμη πιο προβληματικό, επειδή τα μοντέλα εξαίρεσης συνήθως εκμεταλλεύονται την αδράνεια του χρήστη και όχι την ενημερωμένη επιλογή των χρηστών”, είπε.
Οι κίνδυνοι είναι ιδιαίτερα υψηλοί για τους δημιουργούς και τους influencers, των οποίων το πρόσωπο και η ταυτότητα δεν είναι απλώς προσωπικά χαρακτηριστικά, αλλά μέρος της εμπορικής τους αξίας.
«Εάν αυτή η ομοιότητα μπορεί να αναμιχθεί ελεύθερα, αυξάνει τους κινδύνους πλαστοπροσωπίας, ψευδών εγκρίσεων, βλάβης της φήμης και αποδυνάμωσης της επωνυμίας, με πραγματικές οικονομικές και νομικές συνέπειες», εξήγησε. «Καθώς αυτές οι δυνατότητες αρχίζουν να επεκτείνονται σε εργαλεία διαφήμισης μέσω προγραμματισμού, το ζήτημα της ευθύνης μπορεί να μην βαρύνει μόνο τον διαφημιζόμενο, εάν ο σχεδιασμός της πλατφόρμας αποδειχθεί ότι επέτρεψε την εκτεταμένη κατάχρηση».
Αν και αυτό μπορεί να μην οδηγήσει σε μια χονδρική απομάκρυνση από τις δημόσιες πλατφόρμες κοινωνικών μέσων, οι χρήστες μπορεί να γίνουν «πολύ πιο επιλεκτικοί» σχετικά με το τι μοιράζονται δημόσια. «Το πιο σημαντικό, η χειραγώγηση ταυτότητας χωρίς τη συγκατάθεση των χρηστών θα μπορούσε να κανονικοποιηθεί, με ευρύτερες συνέπειες για την εμπιστοσύνη στο διαδικτυακό περιεχόμενο», πρόσθεσε ο Ram.
