Οι Αμερικανοί στρατιώτες που εμφανίστηκαν σε ένα βίντεο του TikTok τον περασμένο μήνα είναι όμορφοι, μυώδεις και, ανεξήγητα, χωρίς πουκάμισο.
«Θα φύγουμε σύντομα», λέει ένας από αυτούς, καθισμένος μέσα σε ένα στρατιωτικό μεταγωγικό αεροπλάνο. “Θα είναι ένα μακρύ ταξίδι. Αν μπορείτε, στείλτε μας λίγη αγάπη.”
Το βίντεο είναι ένα μείγμα που δημιουργήθηκε από την τεχνητή νοημοσύνη για να δελεάσει τους θεατές να κάνουν κλικ σε αυτό. Σύμφωνα με ερευνητές που τους παρακολουθούν, είναι ένας από τους χιλιάδες ανθρώπους που έχουν κατακλύσει τα μέσα κοινωνικής δικτύωσης με ψεύτικες εικόνες που φαίνονται να είναι εν υπηρεσία στρατιωτικό προσωπικό των ΗΠΑ – σε μια εποχή που πραγματικοί στρατιώτες υπηρετούσαν με κακό τρόπο, σε μεγάλο βαθμό από τη δημόσια θέα.
Η πηγή και ο στόχος δεν είναι πάντα προφανείς, λένε οι ερευνητές. Οι ερευνητές λένε ότι κάποιοι, αλλά όχι όλοι, συμμετείχαν σε επιχειρήσεις ξένης επιρροής, συμπεριλαμβανομένων αναφορών ότι κατά τη διάρκεια του πολέμου με το Ιράν, κυκλοφόρησε προπαγάνδα που υποτίθεται ότι δείχνει Αμερικανούς στρατιώτες να κλαίνε ή να τρέμουν από φόβο.
Ένα συντονισμένο δίκτυο λογαριασμών TikTok έχει ψηφιακά ίχνη στην Κίνα, αν και ο ακριβής στόχος είναι ασαφής, σύμφωνα με ερευνητές που συνδέονται με το Πανεπιστήμιο της Νότιας Καλιφόρνια που τον ανακάλυψαν.
Όλοι αξιοποιούν την υποστήριξη που μοιράζονται οι περισσότεροι Αμερικανοί για τη στρατιωτική θητεία, ακόμη και όταν οι ίδιοι οι πόλεμοι είναι αντιδημοφιλείς, όπως αυτός που ξεκίνησαν οι Ηνωμένες Πολιτείες και το Ισραήλ με το Ιράν τον Φεβρουάριο. Πολλοί λαμβάνουν χιλιάδες likes και σχόλια.
«Έχει φυσικό ακροατήριο γιατί οι Αμερικανοί νοιάζονται για τον στρατό τους και ο πόλεμος είναι σημαντικός», είπε ο Peter D. Feaver, καθηγητής πολιτικών επιστημών στο Πανεπιστήμιο Duke και ειδικός στις πολιτικοστρατιωτικές σχέσεις. Σημείωσε ότι η έκφραση μιας τέτοιας υποστήριξης είναι «μια πραγματικά αμερικανική τελετουργία της πολιτικής θρησκείας μας».
Άλλοι παρόμοιοι λογαριασμοί, που βασίζονται σε μέρη όπως το Πακιστάν και η Ινδονησία, φαίνεται να έχουν το κίνητρο κυρίως από την προσέλκυση αγροτών, την πρακτική της προσέλκυσης μεγάλου αριθμού ακολούθων μεταξύ των Αμερικανών σε λογαριασμούς που αργότερα μπορούν να πουληθούν και να επαναχρησιμοποιηθούν.
Η πλαστοπροσωπία του αμερικανικού στρατιωτικού προσωπικού ήταν από καιρό μια τακτική διαδικτυακής απάτης, αλλά η πρόοδος στα εργαλεία τεχνητής νοημοσύνης έχει δημιουργήσει νέους τρόπους εξαπάτησης των χρηστών.
Σύμφωνα με έναν λογαριασμό στο Facebook, έχουν δημοσιευτεί πολυάριθμα βίντεο με μια νεαρή γυναίκα ντυμένη με στρατιωτικό καμουφλάζ, που την αναγνώριζε ως Αμερικανό Βιετναμέζο στρατιώτη. TruthScanμια εταιρεία που παρακολουθεί τη χρήση της τεχνητής νοημοσύνης σε βίντεο. Στην ενότητα σχολίων υπάρχει ένας σύνδεσμος προς έναν λογαριασμό στο OnlyFans, μια πλατφόρμα γνωστή για τη σεξουαλική ψυχαγωγία για ενήλικες.
«Θα ήταν ανόητο να υποθέσουμε ότι κάποιοι άσεμνοι άνθρωποι δεν κάνουν κάτι με αυτούς τους λογαριασμούς», δήλωσε ο Devan Leos, διευθυντής δημοσίων σχέσεων της εταιρείας. TruthScan.
Αυτή την άνοιξη, η εταιρεία συνέδεσε τον λογαριασμό με μια συντονισμένη εκστρατεία που περιλάμβανε επίσης φιλοϊρανικά βίντεο και, πιο πρόσφατα, βίντεο με τεχνητή νοημοσύνη Ισραηλινών στρατιωτών. Οι λογαριασμοί φάνηκε να λειτουργούν από έναν μόνο χρήστη στο Πακιστάν, ο οποίος δεν απάντησε σε αίτημα για σχολιασμό.
Μεγάλες πλατφόρμες όπως το Facebook και το Instagram που ανήκει στη Meta, καθώς και το TikTok, έχουν πολιτικές κατά της συντονισμένης μη αυθεντικής συμπεριφοράς και κανόνες που απαιτούν την επισήμανση βίντεο που δημιουργούνται με εργαλεία τεχνητής νοημοσύνης, αλλά η επιβολή είναι ασυνεπής. Οι αλγόριθμοι της πλατφόρμας συχνά τους διαφημίζουν στις ροές των χρηστών.
Στο αποκορύφωμα των μαχών στο Ιράν, χιλιάδες βίντεο έδειχναν Αμερικανούς στρατιώτες -και μερικούς Ισραηλινούς- φανερά φοβισμένους, αναστατωμένους ή να κλαίνε. Σύμφωνα με μια αναφορά της Alethea, μιας διαδικτυακής εταιρείας πληροφοριών απειλών, ένα δίκτυο φιλοϊρανικών λογαριασμών στο X δημοσίευσε ή κοινοποίησε βίντεο που υποδηλώνουν ότι τα αμερικανικά στρατεύματα που εμπλέκονται δεν υποστήριξαν τη στρατιωτική προσπάθεια.
«Μου λείπουν η μαμά και ο μπαμπάς μου», είπε μια γυναίκα με στρατιωτική στολή σε ένα από τα ψεύτικα βίντεο που έγιναν viral, με τη φωνή της να ραγίζει και να τρέμει στον αέρα. “Ακολουθήστε τη σελίδα μου. Μου δίνει υποστήριξη.”
Οι λογαριασμοί που συνδέονται με το Ιράν το δημοσίευσαν στο X με το ίδιο μήνυμα στα αραβικά, υποδεικνύοντας ότι το κοινό-στόχος ήταν οι Άραβες γείτονες του Ιράν. «Η #MoralCollapse είναι εμφανής στα πρόσωπα και τον τόνο των Αμερικανών στρατιωτών», ανέφερε η έκθεση.
Έκτοτε, ερευνητές από το USC Institute for Information Sciences τεκμηριωμένη ένα νέο συντονισμένο δίκτυο περισσότερων από 100 λογαριασμών στο TikTok που δημοσιεύει τακτικά βίντεο με τεχνητή νοημοσύνη Αμερικανών ανδρών και γυναικών με στολή που κάνουν παρόμοιες κλήσεις για να τους αρέσουν ή να τους ακολουθήσουν.
Σε αντίθεση με τους στρατιώτες στα βίντεο που σχετίζονται με το Ιράν που εμφανίστηκαν στις αρχές του πολέμου, οι στρατιώτες στα νέα δεν φαίνονται αναστατωμένοι, αλλά ζητούν την αναγνώριση των θυσιών που έκαναν για την αποστολή.
Luca Luceri, ερευνητής στο ινστιτούτο που δημοσίευσε ανάλυση δικτύου Για τη νέα εταιρεία, η DotNex είπε ότι η διαδικτυακή καμπάνια δημιούργησε σχεδόν τρία εκατομμύρια προβολές και 444.000 αλληλεπιδράσεις από χρήστες που άρεσαν ή σχολίασαν. Η πρόοδος στην τεχνητή νοημοσύνη όχι μόνο κάνει τα βίντεο πιο πειστικά σε ορισμένους ανθρώπους, αλλά και διευκολύνει την οργάνωση καμπανιών σε κλίμακα.
«Η καινοτομία δεν είναι το ίδιο το slop», είπε ο κ. Luceri. «Το νέο είναι ότι είναι πλήρως αυτοματοποιημένο, λειτουργεί από ξένους και στοχεύει ειδικά σε στρατιωτικές οικογένειες μέσω συναισθηματικού περιεχομένου στο οποίο οι πραγματικοί άνθρωποι ανταποκρίθηκαν με συμπάθεια».
Είπε ότι τα ψηφιακά ίχνη στους λογαριασμούς υποδηλώνουν συνδέσμους με την Κίνα και την Ινδονησία, αλλά χωρίς σαφή σύνδεση με τις επιχειρήσεις κυβερνητικής επιρροής.
Οι New York Times βρήκαν πολλά περισσότερα στο TikTok, το Facebook και το Instagram. Η TikTok και η Meta δεν απάντησαν σε αιτήματα για σχολιασμό σχετικά με τη διάδοση των βίντεο, πολλά από τα οποία έχουν τα ελαττώματα που είναι χαρακτηριστικά της τεχνητής νοημοσύνης.
Οι πληροφορίες για στολές και στρατιωτικό εξοπλισμό είναι ανακριβείς. Τα ονόματα στα σήματα είναι αλλοιωμένα. Πολλοί χαρακτήρες κάνουν πράγματα που δεν επιτρέπεται να κάνει κανένας στρατιώτης, όπως επιβίβαση σε αεροπλάνο χωρίς πουκάμισο ή οδήγηση Humvee σε εμπόλεμη ζώνη χωρίς κράνος.
Κι όμως μπορούν να είναι πειστικοί. Σε μια ανάρτηση που περιείχε ένα βιντεοσκοπημένο βίντεο, ένας χρήστης του Facebook που αυτοπροσδιορίστηκε ως βετεράνος του Βιετνάμ έκανε ένα ειλικρινές σχόλιο ότι η γυναίκα που εμφανίζεται δεν φορούσε τα μαλλιά της σύμφωνα με τους κανονισμούς του αμερικανικού στρατού.
Κανένας από τους πολλούς λογαριασμούς με τους οποίους ήρθαν σε επαφή μέσω των πλατφορμών δεν απάντησε σε αιτήματα συνεντεύξεων.
Η Ellen Gustafson, συνεκτελεστική διευθύντρια του μη κερδοσκοπικού οργανισμού We the Veterans and Military Families, είπε ότι η άνοδος των εργαλείων παραγωγής τεχνητής νοημοσύνης έχει αυξήσει το εύρος της απάτης, των κυβερνοεπιθέσεων και των εκστρατειών παραπληροφόρησης. Είπε ότι οι πλατφόρμες θα αφαιρούσαν συχνά λογαριασμούς και περιεχόμενο τεχνητής νοημοσύνης όταν ειδοποιούνταν, αλλά σύντομα θα εμφανίζονταν νέοι.
«Είναι τρελό», είπε. «Εννοώ, επιστρέφουν με διαφορετική μορφή».
Πέρα από την απειλή των επιχειρήσεων επιρροής, είπε, το AI slop δημιουργεί μια παραμορφωμένη, συχνά καρικατούρα εικόνα των πολέμων και των ανθρώπων που πολεμούν σε αυτούς, την οποία συνέκρινε με βιντεοπαιχνίδια που απεικονίζουν μάχη.
«Το να μεταφράζεις αληθινή, ευγενή και ταπεινή υπηρεσία σε αυτές τις παιχνιδιάρικες, σπασμωδικές εικόνες δεν είναι ωραία», είπε. «Δεν καλεί απαραιτήτως την επόμενη γενιά ανθρώπων να υπηρετήσουν επειδή δίνει μόνο μια εικόνα ενός συγκεκριμένου τύπου ανθρώπων και ενός συγκεκριμένου είδους στρατιωτικής εργασίας, που δεν είναι ρεαλιστικό και δεν είναι αυτό που χρειαζόμαστε».
