Την περασμένη εβδομάδα, ένα νέο κίνημα fanwork έχει απογειωθεί, με στόχο να ξεριζώσει τους συγγραφείς που χρησιμοποιούν γενετική τεχνητή νοημοσύνη. Αλλά οι μέθοδοι ανίχνευσης που πραγματοποιήθηκαν είναι αμφισβητήσιμες και οποιοσδήποτε συγγραφέας μυθοπλασίας θα μπορούσε να βρεθεί στα πυρά.
Υπάρχει μια εκτεταμένη αποστροφή για τη χρήση του Cloud, του ChatGPT και άλλων εργαλείων τεχνητής νοημοσύνης για μεγάλο χρονικό διάστημα κάτι Σε δημιουργικές κοινότητες, συμπεριλαμβανομένου του κόσμου της φαντασίας θαυμαστών. Αναγνώστες και συγγραφείς έχουν δώσει συμβουλές για τον εντοπισμό έργων που υποτίθεται ότι δημιουργήθηκαν από την τεχνητή νοημοσύνη, αναφέροντας οτιδήποτε, από παύλες έως… Ευρεία έννοια Από μωβ πρόζα. Αλλά στις 29 Ιουνίου, τηλεφώνησε ένας ανώνυμος λογαριασμός X @heatedrivalryai Υπόσχεται μια φαινομενικά πιο αξιόπιστη λύση. Έχω δημοσιεύσει ένα δέρμα – που μοιάζει με επέκταση – του δημοφιλούς αποθετηρίου αρχείου θαυμαστών του Archive of Our Own (AO3) που υποτίθεται ότι προσδιορίζει στοιχεία προγραμματισμού που άφησε πίσω του το bot Claude του Anthropic.
“Όταν η απόκριση που δημιουργείται από τον Claude επικολλάται απευθείας στο AO3 του Claude, το κείμενο αναδιπλώνεται με κώδικα που εισάγεται από τον Claude ‘font-clude-response-body'”, δήλωσε ο λογαριασμός @heatedrivalryai. «Η παρουσία του δείχνει την απόλυτη χρήση του Κλοντ». Όταν ένας χρήστης επισκέπτεται μια σελίδα (όπως ένα fan art) χρησιμοποιώντας αυτό το εικονίδιο, το δέρμα γίνεται κόκκινο ολόκληρο το φόντο.
πολυάριθμος Δοκιμαστικές αναρτήσεις Δημοσιεύεται στο AO3 που επιτρέπει στους χρήστες να ελέγχουν αν λειτουργεί ή όχι. Η οθόνη έγινε αμέσως κόκκινη όταν δοκίμασα ο ίδιος το δέρμα σε αυτά τα παραδείγματα και δημοσίευσα μια σύντομη ιστορία γραμμένη από τον Claude για να εκτελέσω το δικό μου πείραμα για κάθε ενδεχόμενο. Η κόκκινη οθόνη εμφανίστηκε όταν επικολλούσα απευθείας από το chatbot στο πρόγραμμα επεξεργασίας και εξαφανιζόταν αν επικολλούσα κείμενο (συμπεριλαμβανομένης της ίδιας ιστορίας που δημιουργήθηκε) και δεν προερχόταν απευθείας από τον Claude.
Η ανάρτηση του Kashif Claude συνοδεύτηκε από φανταστικά παραδείγματα όπου εντοπίστηκαν τα τεχνουργήματα, τα οποία ο ανώνυμος δημιουργός είπε ότι είχαν σκοπό να αποδείξουν τη λειτουργία του συστήματος και όχι να “δημιουργήσουν ένα περιβάλλον δυσπιστίας ή να κατηγορήσουν ορισμένους χρήστες”. Αλλά οι κοινότητες θαυμαστών κινητοποιήθηκαν γρήγορα για να κατονομάσουν και να ντροπιάσουν δημόσια τους συγγραφείς των οποίων το δημοσιευμένο έργο επισημάνθηκε από το εργαλείο, και ο δημιουργός του σίγουρα δεν βλέπει την τεχνητή νοημοσύνη ως θετικό πράγμα. “Το Fandom είναι ένας μοναδικά συνδεδεμένος και συνεργατικός χώρος. Ευδοκιμεί στο ανθρώπινο στοιχείο και τη δημιουργική σπίθα που τον οδηγεί και τον τροφοδοτεί”, είπαν. «Αν κατά λάθος επιτρέψουμε στην τεχνητή νοημοσύνη να διαφθείρει αυτούς τους χώρους, τι θα απομείνει;»
Η Anthropic δεν ανταποκρίθηκε στο αίτημά μου να ελέγξει αν ο ανιχνευτής Claude κατασκευασμένος από ανεμιστήρα λειτούργησε όπως περιγράφεται. Ωστόσο, η μεθοδολογία εδώ φαίνεται σωστή και οι δοκιμές μας την υποστηρίζουν. Δεν υπάρχει προφανής λόγος για το Codecloud να είναι στην ιστορία, εάν το ρομπότ δεν χρησιμοποιείται με κάποιο τρόπο. Υπάρχει όμως σαφής κίνδυνος ψευδών αρνητικών και υπεργενίκευσης.
Η αναδίπλωση κώδικα διατηρείται μόνο εάν το κείμενο αντιγραφεί απευθείας από τον Claude στο πρόγραμμα επεξεργασίας AO3, επομένως οτιδήποτε επεξεργάζεται στα Έγγραφα Google ή το Microsoft Word και στη συνέχεια μεταφέρεται στο AO3 δεν θα καταγράφεται – και ως κάποιος που γράφει για τα προς το ζην, μπορώ να βεβαιώσω πόσο επικίνδυνο είναι να γράφεις απευθείας σε ένα CMS. Ορισμένοι συγγραφείς με σημαία έχουν ήδη ενημερώσει τα έργα τους για να αφαιρέσουν αντικείμενα και μελλοντικά έργα μπορούν εύκολα να αποφύγουν το εργαλείο.
Αντίθετα, το σήμα δεν αποκαλύπτει πόσο έντονα χρησιμοποιείται ο Claude σε ένα συγκεκριμένο έργο. Αυτή η φωτεινή κατακόκκινη οθόνη θα μπορούσε να σημαίνει ότι ολόκληρη η ιστορία δημιουργήθηκε εξ ολοκλήρου με τεχνητή νοημοσύνη ή ότι ο συγγραφέας επικόλλησε ορισμένες προτάσεις που γράφτηκαν από άνθρωπο στο Cloud για ορθογραφικό έλεγχο ή μετάφραση και στη συνέχεια τις έστειλε πίσω στο AO3.
Αυτό δεν είχε σημασία για ορισμένα μέλη της βάσης θαυμαστών που παρακολουθούσαν κάθε Η χρήση της γενετικής τεχνητής νοημοσύνης ως ασυγχώρητη προδοσία της ευρύτερης δημιουργικής κοινότητας. Πολλοί άνθρωποι επισημαίνουν ανησυχίες σχετικά με τον περιβαλλοντικό αντίκτυπο της τεχνολογίας και πώς μπορεί να εκπαιδευτεί με το ξύσιμο του ανοιχτού ιστού, το οποίο πιθανότατα περιλαμβάνει έργα θαυμαστών που ανεβαίνουν σε πλατφόρμες όπως το AO3.
Η δυνατότητα εφαρμογής αυτού του συγκεκριμένου εργαλείου είναι περιορισμένη — το AO3 δεν είναι η μόνη πλατφόρμα για τη δημοσίευση fanworks και ο Claude είναι μόνο ένα από τα πολλά μοντέλα τεχνητής νοημοσύνης. τουλάχιστον Ένα άτομο ισχυρίζεται Έχουν γράψει ξεχωριστό κώδικα που μπορεί να ανιχνεύσει τη χρήση του “Claude, Deepseek και κάποιου ChatGPT”, αλλά δεν έχουν κυκλοφορήσει δημόσια αυτή τη λύση ούτε εξήγησε πώς λειτουργεί. Ρώτησα την Google και το OpenAI εάν τα μοντέλα τους αφήνουν ανιχνεύσιμα ίχνη στη δημιουργία κειμένου που θα μπορούσαν να εντοπιστούν με παρόμοια μέσα, αλλά δεν απάντησαν.
Στην πραγματικότητα, θα ήταν πολύ περίεργο αν υπήρχε ένα καθολικά αξιόπιστο σύστημα. Έχω αναφέρει σχετικά με τα ζητήματα που αφορούν την ανακάλυψη της τεχνητής νοημοσύνης πριν από μερικά χρόνια, και από όσο γνωρίζω, υπάρχουν όχι έτσι Αυτή τη στιγμή είναι μια αξιόπιστη τεχνολογική λύση για τη διάκριση του παραγόμενου κειμένου από το κείμενο που γράφτηκε από ανθρώπινο χέρι. Συστήματα όπως το C2PA Content Credentials και το SynthID της Google σημειώνουν κάποια πρόοδο προς τον εντοπισμό γενετικής τεχνητής νοημοσύνης σε εικόνες, βίντεο, ακόμη και ήχο, αλλά βασίζονται σε υδατογραφήματα και αόρατα μεταδεδομένα που δεν μεταφέρονται για αντιγραφή και επικόλληση κειμένου.
Οι εταιρείες τεχνητής νοημοσύνης έχουν κάθε κίνητρο να λύσουν τουλάχιστον το πρόβλημα εσωτερικά
Αυτό μπορεί να αλλάξει στο μέλλον και οι εταιρείες τεχνητής νοημοσύνης έχουν κάθε κίνητρο να λύσουν τουλάχιστον το πρόβλημα εσωτερικά. Τα πρώτα μοντέλα εκπαιδεύτηκαν σε κείμενο που εξήχθη τυχαία από το Διαδίκτυο και με την ανθρώπινη γραφή να παραγκωνίζεται από το συνθετικό αντίστοιχό του, θα μπορούσαν να διακινδυνεύσουν “Κατάρρευση μοντέλου«Ένα σενάριο που θα μείωνε την ακρίβεια της παραγωγής.
Επί του παρόντος, οι μαζικές κοινωνίες εξακολουθούν να βασίζονται κυρίως στα συναισθήματα. Οι περισσότεροι θαυμαστές κρίνονται όχι από ένα εργαλείο όπως το θέμα AO3, αλλά από το “λέγοντας” που μπορεί να περιλαμβάνει οτιδήποτε, από συγκεκριμένες δομές προτάσεων – όπως το περίφημο “It’s not X, it’s Y” – έως την υπερβολική χρήση ανθισμένων μεταφορών. (Τουλάχιστον κανένας από τους θαυμαστές δεν το έχει κάνει ακόμα Οι πάγκοι γίνονται άντρες.) Αλλά πρέπει να το θυμόμαστε αυτό Το AI γράφεται συχνά με αυτόν τον τρόπο Επειδή εκπαιδεύτηκε σε πράγματα που γράφτηκαν από αληθινούς ανθρώπους. Προσπαθεί να μας μιμηθεί. Δεν είμαι αρκετά τολμηρός για να μοιραστώ τις αναφορές μου στο AO3, αλλά σίγουρα έχω διαβάσει κάποια υπερβολικά εύγλωττη μυθοπλασία στις μέρες του διαδικτύου πριν από το ChatGPT που δεν θα περνούσε αυτό το αμφίβολο τεστ sniff.
Η καλύτερη λύση για την επισήμανση της εργασίας τεχνητής νοημοσύνης στο AO3 είναι ήδη διαθέσιμη: το ισχυρό σύστημα ετικετών του ιστότοπου. ένα “Δημιουργήθηκε με χρήση γενετικής τεχνητής νοημοσύνης“Η ετικέτα υπάρχει και πολλοί συγγραφείς την περιλαμβάνουν για να αποκαλύψουν τη χρήση εργαλείων όπως το Cloud. Ωστόσο, αυτό απαιτεί ειλικρινή διαφάνεια και υπάρχει μικρό κίνητρο για ειλικρίνεια δεδομένης της αντίδρασης. Αξίζει επίσης να σημειωθεί ότι η φαντασία θαυμαστών προορίζεται να είναι ένα χόμπι, όχι μια ρυθμιζόμενη βιομηχανία.
Με αυτές τις προσπάθειες να αποτραπεί η τεχνητή νοημοσύνη από το να απομακρύνει την προσοχή από την αληθινή ανθρωποκεντρική δημιουργικότητα, οι συγγραφείς που δεν συμμορφώνονται με αυτό που θεωρείται αποδεκτή ποιότητα γραφής μπορεί να γίνουν αθώα θύματα του συνεχιζόμενου κυνηγιού μαγισσών. Τουλάχιστον ένας συγγραφέας έχει πραγματικά πέσει σε αυτό λόγω κάποιου άλλου που εμπιστεύεται Για να επεξεργαστείτε τις φωτογραφίες τους Το έκανα χρησιμοποιώντας τον Claude. Έτσι, εάν η επόμενη φαντασία που θα διαβάσετε ακούγεται σαν να είναι λίγο ρομποτική, απλά έχετε κατά νου ότι μπορεί να μην είναι Στην πραγματικότητα Είναι προϊόν ενός ρομπότ.
