Νωρίτερα αυτό το μήνα, το WIRED δημοσίευσε ένα απόσπασμα από το αμφιλεγόμενο νέο βιβλίο του Steve Rosenbaum. αληθινό μέλλοντο οποίο εξετάζει πώς η τεχνητή νοημοσύνη διαστρεβλώνει την αίσθηση της πραγματικότητας των ανθρώπων. Λίγο μετά, οι New York Times αναφέρθηκε Το βιβλίο φέρεται να περιείχε περισσότερα από έξι κατασκευασμένα ή λανθασμένα αποσπάσματα. Ο Ρόζενμπαουμ, ο οποίος είναι κάτοχος μεταπτυχιακού τίτλου στην «αλήθεια» από το Πανεπιστήμιο της Νέας Υόρκης, αναγνώρισε σε δήλωσή του ότι είχε συμπεριλάβει κατά λάθος «ένα μικρό αριθμό» και «ακατάλληλες αποδόσεις ή σύνθετα» παραπομπών. Κατά ειρωνικό τρόπο, η αλήθεια ενός βιβλίου σχετικά με το πώς η τεχνητή νοημοσύνη επηρεάζει την αλήθεια βρίσκεται επί του παρόντος υπό έντονο έλεγχο λόγω του τρόπου με τον οποίο ο συγγραφέας του χρησιμοποίησε την τεχνητή νοημοσύνη.
Το WIRED εξέτασε το απόσπασμά μας 1.450 λέξεων μετά τη δημοσίευση της ιστορίας των Times. Η ομάδα ελέγχου γεγονότων μας το εξέτασε πριν από τη δημοσίευσή του και επανέλεξε τα αποσπάσματα και τα στοιχεία του για ακρίβεια. Ωστόσο, η συντακτική πολιτική του WIRED που δημιουργείται από την τεχνητή νοημοσύνη απαγορεύει τη δημοσίευση κειμένων που έχουν δημιουργηθεί ή επεξεργαστεί με τεχνητή νοημοσύνη και ένα email αναγνώστη που κατηγορούσε το απόσπασμα ότι γράφτηκε κατάφωρα από την τεχνητή νοημοσύνη έθεσε περαιτέρω ερωτήματα σχετικά με τον βαθμό στον οποίο η Rosenbaum χρησιμοποιούσε εργαλεία τεχνητής νοημοσύνης. σε αληθινό μέλλονΣτην ενότητα των ευχαριστιών του, ο Rosenbaum γράφει ότι οι ChatGPT, Claude, NaturalReaders, ProWritingAid και Grammarly τον βοήθησαν «να βελτιώσει και να βελτιώσει την παρουσίαση των ιδεών (του)». Τι ακριβώς σημαίνει αυτό;
Το WIRED έτρεξε το απόσπασμα μέσω πολλών υπηρεσιών ανίχνευσης AI, συμπεριλαμβανομένων των Pangram, GPTZero και ZeroGPT. Κάθε υπηρεσία πρότεινε ότι ήταν πιθανό ή πιθανό να είχε δημιουργηθεί από μια τεχνητή νοημοσύνη. Ωστόσο, τα εργαλεία ανίχνευσης AI μπορεί να είναι εσφαλμένα και να επιστρέφουν ανακριβείς μετρήσεις. Ο επικεφαλής της έρευνας του WIRED έστειλε απευθείας email στον Rosenbaum, ρωτώντας αν και πώς χρησιμοποιήθηκε η τεχνητή νοημοσύνη για τη συγγραφή του αποσπάσματος.
Απάντησε: «Όπως πολλοί συγγραφείς που εργάζονται σήμερα, χρησιμοποίησα εργαλεία τεχνητής νοημοσύνης για μέρη της διαδικασίας έρευνας και εκδοτικής ανάπτυξης για αυτό το βιβλίο, συμπεριλαμβανομένης της ανακάλυψης πηγής, του καταιγισμού ιδεών, της δομικής ανατροφοδότησης και της βελτίωσης της γλώσσας». Ωστόσο, τόνισε ότι «οι ιδέες, τα ρεπορτάζ, οι συζητήσεις και η τελική συγγραφή είναι δικές μου, και τα αποσπάσματα στο WIRED δεν δημιουργήθηκαν μόνο από AI και δημοσιεύτηκαν αυτολεξεί». Προέτρεψε τους συντάκτες του WIRED να είναι προσεκτικοί όσον αφορά την εμπιστοσύνη των εργαλείων ανίχνευσης τεχνητής νοημοσύνης, σημειώνοντας ότι μπορεί να προκύψουν ψευδώς θετικά αποτελέσματα.
Σε αυτό το σημείο, ένας ανώτερος συντάκτης στο WIRED μου ζήτησε να εξετάσω αυτό το επεισόδιο, καθώς καλύπτω σφάλματα τεχνητής νοημοσύνης με διάφορες μορφές από το 2024. Το πρώτο μου βήμα ήταν να τρέξω ολόκληρο το βιβλίο μέσω του εργαλείου ανίχνευσης του Pangram. (Όλα τα εργαλεία ανίχνευσης τεχνητής νοημοσύνης έχουν περιορισμούς και μπορούν να δώσουν ψευδώς θετικά στοιχεία, αλλά το Pangram είναι το τρέχον χρυσό πρότυπο.) Διαπιστώσαμε ότι το 53 τοις εκατό των βιβλίων δημιουργήθηκαν από την τεχνητή νοημοσύνη και ένα επιπλέον 9 τοις εκατό καταγράφηκε ως δυνητικά υποβοηθούμενη από AI.
Τηλεφώνησα στον Rosenbaum και ζήτησα περισσότερες διευκρινίσεις σχετικά με το πώς χρησιμοποίησε την τεχνητή νοημοσύνη για να γράψει το βιβλίο και αν αμφισβήτησε τα αποτελέσματα του Pangram. (BenBella Books, εκδόθηκε το κολοφώνιο αληθινό μέλλονένα αίτημα για σχολιασμό δεν επιστράφηκε. Η Simon & Schuster, η οποία πουλάει τα βιβλία του Ben Bella στις Ηνωμένες Πολιτείες, αρνήθηκε να σχολιάσει. )
Ο Rosenbaum δεν έλαβε υπόψη την ακρίβεια των αποτελεσμάτων του Pangram. Μάλιστα, δεν ήθελε καθόλου να μιλήσει για αυτά. «Δεν πρόκειται να συμμετάσχω σε αυτή τη συζήτηση», είπε. «Είναι σαν να λες, Δέρνεις τη γυναίκα σου; Αυτή είναι μια από αυτές τις κατηγορίες στις οποίες δεν υπάρχει απάντηση».
Σε αντάλλαγμα, προσφέρθηκε να εξηγήσει σε γενικές γραμμές τη διαδικασία επεξεργασίας του. Λέει ότι χρησιμοποίησε εργαλεία τεχνητής νοημοσύνης ως μηχανή αναζήτησης στην αρχή της διαδικασίας συγγραφής, βοηθώντας τον να εμφανίσει πληροφορίες στις πιο εντατικές ενότητες του βιβλίου. Για να σας δείξει πώς να το κάνετε αυτό, ζήτησε από το ChatGPT να με περιγράψει και να διαβάσει τα αποτελέσματα. Το AI Search περιέγραψε λίγο πολύ με ακρίβεια μερικές από τις προηγούμενες ιστορίες μου, συμπεριλαμβανομένης της δουλειάς μου σε «ιστοτόπους πολυμέσων ζόμπι» που δημιουργήθηκαν από AI.
